Bias manusia dalam analisis data sudah lama diabaikan, tetapi dengan munculnya kecerdasan buatan (AI), masalah ini menjadi semakin nyata. Bias ini, baik yang terlahir dari faktor sosial atau kognitif tak sadar, dapat memengaruhi tahap-tahap penting dalam pengolahan data untuk AI, seperti pemilihan data, pelabelan, serta pembuatan dan penerapan algoritma. AI yang semakin kompleks sering kali sulit dijelaskan, meningkatkan risiko terjadinya bias dalam output yang dihasilkan.
Bias dalam Pengembangan dan Penerapan AI
Bias manusia dapat mempengaruhi beberapa tahap dalam pengembangan AI, antara lain:
- Data Latihan: Pemilihan dan pelabelan data masih sangat bergantung pada keputusan manusia, yang rentan terhadap bias.
- Algoritma: Pemilihan terminologi, indikator, dan bobot dalam algoritma juga dipengaruhi oleh bias pengembang.
- Penjelasan: Semakin kompleks aplikasi AI, semakin sulit untuk menjelaskan bagaimana keputusan dibuat.
- Daya Alih: Tekanan waktu dan biaya mendorong pengembang untuk memodifikasi aplikasi AI yang sudah ada, daripada menciptakan yang baru.
Kesalahan dalam aplikasi AI dapat memiliki dampak ekonomi dan reputasi yang besar, sebagaimana yang terlihat pada kasus-kasus kesalahan AI di perusahaan besar.
Metode Mitigasi Bias Tradisional Tidak Cukup untuk AI
Bias manusia dalam model analisis tradisional biasanya diatasi dengan kerangka tata kelola yang telah teruji. Namun, untuk aplikasi AI yang berkembang pesat, kerangka tata kelola tradisional tidak cukup efektif. Aplikasi AI sering kali diimplementasikan dengan cepat tanpa proses desain yang panjang, yang menyebabkan bias sulit diidentifikasi dan diatasi.
Pendekatan ‘Intelligent Analysis’ untuk Mitigasi Bias
Untuk mengatasi masalah ini, konsep ‘Intelligent Analysis’ mengadaptasi metode yang digunakan oleh layanan intelijen AS untuk menganalisis data secara objektif dan transparan. Pendekatan ini menggunakan teknik analitik terstruktur yang dapat diterapkan dalam alur kerja AI, antara lain:
- Pertanyaan Intelijen Utama (Key Intelligence Question – KIQ): Mengidentifikasi dengan jelas pertanyaan yang perlu dijawab untuk menghindari bias dalam pencarian data.
- Rencana Pengumpulan Sumber: Menentukan sumber data yang relevan dan andal untuk menjawab KIQ.
- Penilaian Sumber: Menilai relevansi dan keandalan sumber data yang digunakan untuk hasil aplikasi AI.
- Pemeriksaan Asumsi Kunci: Memeriksa asumsi yang mendasari algoritma AI dan menilai sejauh mana data dan asumsi tersebut mendukung hasil yang valid.
Dengan semakin luasnya penerapan AI, risiko bias manusia dalam data dan algoritma juga meningkat. Namun, melalui desain dan pengujian yang cermat, bias dapat dihindari. ‘Intelligent Analysis’ menyediakan alat yang sudah teruji untuk mengurangi bias dalam dunia AI dan analisis data, sehingga perusahaan dapat menghasilkan aplikasi AI yang lebih akurat, transparan, dan dapat diulang.
Artikel ini telah diterbitkan oleh PRMIA, dengan judul Identifying and Mitigating Human Biases Across AI Workflows.
