Dengan semakin banyaknya penggunaan algoritma kompleks dan sistem pembelajaran mesin, risiko terkait algoritma menjadi perhatian utama. Risiko ini muncul ketika kita menggunakan analisis data dan algoritma perangkat lunak berbasis teknologi kognitif dalam situasi pengambilan keputusan otomatis dan semi-otomatis.
Deloitte telah menciptakan cara untuk memahami area-area yang berisiko dan faktor-faktor yang menyebabkan risiko dalam penggunaan algoritma. Risiko-risiko ini dapat timbul pada tahap pengumpulan data, desain algoritma, dan keputusan yang dihasilkan.
Pengumpulan Data: Risiko-risiko termasuk adanya bias dalam data pelatihan, data yang kurang lengkap atau tidak relevan, sampel data yang tidak mencukupi, cara pengumpulan data yang tidak sesuai, dan ketidaksesuaian antara data yang digunakan untuk melatih algoritma dengan data aktual saat digunakan.
Desain Algoritma: Risiko-risiko meliputi logika yang bias, asumsi atau penilaian yang keliru, teknik pemodelan yang tidak sesuai, kesalahan dalam pengkodean, dan pola palsu dalam data pelatihan.
Keputusan yang Dihasilkan: Risiko-risiko melibatkan interpretasi yang salah terhadap output yang dihasilkan, penggunaan hasil yang tidak sesuai, dan mengabaikan asumsi dasar.
Risiko dapat disebabkan oleh beberapa faktor mendasar:
Bias Manusia: Bias kognitif dari pengembang atau pengguna model dapat menyebabkan hasil yang kurang akurat. Selain itu, kurangnya pengawasan dan keselarasan nilai organisasi dengan perilaku karyawan dapat menghasilkan hasil yang tidak diinginkan.
Kekurangan Teknis: Ketidakakuratan teknis atau kurangnya konsep yang matang dalam pengembangan, pelatihan, pengujian, atau validasi algoritma dapat mengakibatkan hasil yang tidak benar.
Kesalahan Penggunaan: Kesalahan dalam menerapkan algoritma, mengintegrasikannya dengan operasi, atau penggunaan oleh pengguna akhir dapat menghasilkan keputusan yang tidak sesuai.
Kekurangan Keamanan: Pihak yang bermaksud baik atau jahat dapat mendapatkan akses ke data input, desain algoritma, atau hasilnya dan memanipulasinya untuk menghasilkan hasil yang disengaja.
Dengan bertambahnya jumlah data, otomatisasi proses, dan pengambilan keputusan oleh algoritma, sangat penting untuk memastikan bahwa algoritma Anda bekerja sebagaimana mestinya dan mencapai hasil bisnis yang diinginkan.
Artikel ini telah diterbitkan oleh Deloitte dengan judul Managing Algorithmic Risks. Artikel selengkapnya dapat dibaca di sini.
