Risiko generative AI di sektor keuangan mulai menjadi perhatian serius bagi bank dan perusahaan asuransi. Lonjakan penggunaan teknologi ini memicu banyak permintaan implementasi, tetapi di sisi lain juga membawa potensi masalah baru yang tidak bisa diabaikan.
Laporan terbaru menunjukkan tim risiko dan kontrol di lembaga keuangan kini kewalahan menghadapi banyaknya penggunaan generative AI. Untuk mengatasinya, sejumlah perusahaan mulai mengelompokkan risiko agar lebih mudah dikendalikan dan dimitigasi.
Delapan Risiko Generative AI di Sektor Keuangan
Ada delapan jenis risiko utama yang sering muncul dalam penggunaan generative AI di sektor keuangan.
Pertama, risiko integritas data. Pengelolaan data yang lemah bisa membuat data tidak akurat atau bahkan bocor. Ini bisa berdampak pada keputusan bisnis yang keliru.
Kedua, kesalahan model atau “halusinasi AI”. Model AI bisa menghasilkan informasi yang salah jika tidak diawasi dengan baik. Masalah ini sering muncul karena kurangnya transparansi dalam sistem.
Ketiga, risiko dari pihak vendor. Kerja sama dengan penyedia teknologi bisa bermasalah jika tidak diawasi. Pelanggaran kontrak atau layanan yang tidak optimal bisa mengganggu operasional.
Keempat, integrasi teknologi yang tidak maksimal. Banyak perusahaan kesulitan menggabungkan AI dengan sistem lama mereka. Akibatnya, proses bisnis jadi tidak efisien.
Kelima, risiko keamanan informasi. Akses yang terlalu luas ke sistem AI bisa membuka celah kebocoran data. Ini menjadi ancaman serius, terutama bagi data nasabah.
Keenam, risiko hukum dan regulasi. Penggunaan AI harus mengikuti aturan yang berlaku. Selain itu, bias dalam data pelatihan juga bisa memicu masalah hukum.
Ketujuh, risiko reputasi. Kesalahan AI bisa merusak kepercayaan publik. Sekali kepercayaan hilang, dampaknya bisa panjang bagi perusahaan.
Kedelapan, risiko strategi. Perusahaan yang lambat mengadopsi AI bisa tertinggal. Namun, adopsi tanpa arah juga bisa merugikan.
Cara Perusahaan Mengatasi Risiko AI
Perusahaan keuangan mulai mengambil langkah untuk mengurangi risiko generative AI di sektor keuangan. Salah satu cara utama adalah memperkuat tata kelola data.
Mereka juga membentuk tim lintas fungsi yang melibatkan IT, risiko, dan bagian pengadaan. Tujuannya untuk memastikan semua aspek penggunaan AI terkontrol.
Selain itu, perusahaan mulai menerapkan pengawasan ketat terhadap model AI. Setiap penggunaan harus melalui pengujian dan evaluasi sebelum diterapkan.
Untuk vendor, proses seleksi kini lebih ketat. Perusahaan memastikan mitra teknologi memiliki standar keamanan dan layanan yang jelas.
Di sisi keamanan, sistem akses diperketat. Teknologi seperti cloud privat mulai digunakan untuk melindungi data sensitif.
Langkah lain yang dilakukan adalah menyiapkan strategi komunikasi. Ini penting untuk menjaga kepercayaan publik jika terjadi masalah.
Meski berbagai langkah sudah dilakukan, risiko tidak bisa dihilangkan sepenuhnya. Namun, perusahaan bisa menguranginya hingga level yang bisa diterima.
Pendekatan yang terencana dinilai lebih efektif dibandingkan penanganan kasus per kasus. Perusahaan yang menyiapkan strategi sejak awal cenderung lebih siap menghadapi perkembangan AI.
Artikel ini telah diterbitkan oleh Bain, dengan judul Generative AI in Financial Services: Eight Risks and How to Overcome Them. Artikel selengkapnya dapat dibaca di sini.
