Manfaat kecerdasan buatan (artificial intelligence/AI) terus berkembang pada masa kini. Namun, sensus Oliver Wyman terhadap 33 lembaga keuangan Amerika Serikat (AS) dan Uni Eropa (UE) baru-baru ini melaporkan bahwa dua per tiga dari mereka menggunakan AI sekaligus mengkhawatirkan risiko yang terkait. Risiko ini berhubungan dengan risiko operasional yang membutuhkan kemampuan analitis untuk melaksanakan penilaian kinerja model dan keandalan.
Risiko Regulasi
Sejumlah negara atau lembaga telah meningkatkan fokus mereka melalui peraturan AI. Peraturan ini diajukan di UE, Hong Kong, Jepang, Arab Saudi, Singapura, Inggris, dan AS. Undang-Undang (UU) AI UE Tahun 2021, misalnya, mengusulkan denda hingga 6% dari omset global untuk tata kelola yang tidak memadai.
UU ini memperjelas bahwa pengembang, produsen, dan pengguna bertanggung jawab tidak hanya atas kesalahan dalam AI, tetapi juga atas potensi dampak yang ditimbulkan oleh AI. Dengan kata lain, penggunaan AI berarti bahwa tidak ada lagi persyaratan bagi orang yang dirugikan untuk membuktikan adanya tindakan atau kelalaian yang disengaja.
Risiko Etika dan Reputasi
Risiko AI memperburuk kekhawatiran seputar bias. Untuk memantau keadilan, diperlukan beberapa aspek, yaitu metrik khusus, kelompok yang ditargetkan, ambang batas, dan tindakan yang dihasilkan.
Metrik bias dan kemampuan interpretasi sampai batas tertentu harus dipesan lebih dahulu, tetapi tidak berdasarkan keputusan ad hoc satu orang. Penggunaan standar, kebijakan, dan selera risiko yang dipertimbangkan adalah kuncinya.
Risiko Privasi, Teknologi, dan Data
Model-model yang canggih ini meningkatkan masalah privasi dan keamanan. AI telah meningkatkan akses ke data yang tidak terstruktur, seperti gambar, suara, dan teks.
Untuk memenuhi kompleksitas dan ekspektasi yang terus meningkat dalam pemeliharaan data, penelusuran, dan audit; standar organisasi membutuhkan kualitas data, bias, minimalisasi, privasi, dan keamanan yang dimonitor. Ini adalah masalah yang hanya dapat ditangani dengan pendekatan holistik dan proaktif.
Jika kita menyadari kehadiran AI, pada dasarnya kita tidak berbicara tentang risiko baru, melainkan hanya meningkatkan pendekatan untuk menutup kerentanan yang ada. Ada beberapa peningkatan keterampilan yang dibutuhkan sebab AI membawa potensi pendekatan yang lebih akurat dan adil. Meski begitu, ketika terjadi kesalahan, kesalahan tersebut bisa jadi lebih besar dan cepat.
Artikel ini telah diterbitkan oleh Oliver Wyman, dengan judul “How AI is Changing The Way We Think About Risk” pada November 2022. Artikel selengkapnya dapat dibaca di sini.
