Bank mulai memperkuat manajemen risiko model AI karena penggunaan kecerdasan buatan (AI) semakin luas dalam bisnis perbankan. Model AI kini dipakai untuk berbagai keputusan penting, mulai dari penyaluran modal hingga penetapan harga produk.
McKinsey dalam laporan bertanggal 22 Juli 2026 menyebut bank perlu mengembangkan kerangka model risk management (MRM) agar mampu mengikuti penggunaan AI, termasuk generative AI dan agentic AI. MRM tidak lagi cukup berfokus pada model tradisional.
Manajemen Risiko Model AI Semakin Penting
Penggunaan AI berkembang cepat di berbagai organisasi. Lebih dari 80 persen organisasi global telah menggunakan generative AI atau agentic AI setidaknya dalam satu fungsi bisnis.
Namun, penerapan AI dalam manajemen risiko model di sektor perbankan masih tertinggal. Kurang dari 30 persen bank di Eropa telah memasukkan model generative AI dan agentic AI ke dalam kerangka MRM mereka.
Kondisi tersebut menjadi perhatian karena model semakin banyak digunakan untuk keputusan yang memiliki dampak besar. Bank perlu memastikan hasil model dapat dipercaya, dijelaskan, dan dipertanggungjawabkan.
Tekanan terhadap fungsi MRM juga meningkat. Volume validasi model tahunan naik lebih dari 10 persen dalam satu tahun terakhir.
Sekitar 80 persen bank memperkirakan jumlah model yang membutuhkan validasi akan terus meningkat dalam satu tahun mendatang.
Bank Menghadapi Risiko AI yang Berbeda
AI membawa sejumlah risiko yang perlu diperhitungkan dalam pengelolaan model. Risiko tersebut mencakup kemampuan menjelaskan hasil, bias, keadilan, ketahanan sistem, keamanan siber, dan ketergantungan terhadap pihak ketiga.
Karena itu, bank perlu memperluas definisi model. Sistem AI modern sering terdiri dari beberapa bagian sekaligus, seperti sumber data, model dasar, prompt, aturan tertentu, dan API dari penyedia eksternal.
Pendekatan lama yang hanya melihat model sebagai satu produk statistik dinilai semakin sulit diterapkan. Bank perlu melihat bagaimana sebuah sistem digunakan dan seberapa besar pengaruhnya terhadap keputusan bisnis.
Survei McKinsey menunjukkan 32 persen bank di Eropa sudah memperbarui definisi model untuk memperhitungkan risiko generative AI. Sebanyak 32 persen lainnya masih dalam proses melakukan perubahan.
Validasi Model AI Perlu Lebih Fleksibel
Pengawasan model AI juga membutuhkan metode validasi yang berbeda. Bank tidak bisa hanya mengandalkan pemeriksaan pada satu titik waktu.
Model AI dapat belajar, berubah, atau menggunakan data yang berubah dengan cepat. Karena itu, bank perlu melakukan pemantauan setelah model digunakan dan menggabungkannya dengan validasi berkala.
Pengujian juga mulai mencakup sensitivitas terhadap prompt, kemampuan menjelaskan hasil, konsistensi keluaran, metrik keadilan, pengujian sistem retrieval-augmented generation atau RAG, serta pengujian terhadap input yang sengaja dibuat untuk mengganggu sistem.
Meski kebutuhan tersebut meningkat, kemampuan bank masih berkembang. Baru 18 persen bank Eropa yang sudah memiliki standar dan prosedur khusus untuk memvalidasi risiko model generative AI.
Sementara itu, hanya 4 persen bank yang telah memiliki perangkat dan infrastruktur validasi khusus. Sebanyak 43 persen masih dalam proses membangunnya.
Otomatisasi Bisa Mempercepat Pengelolaan Model
Bank juga mulai menggunakan otomatisasi untuk menghadapi peningkatan jumlah model. Otomatisasi dapat digunakan dalam pembuatan laporan, pemantauan, hingga pengujian validasi.
Otomatisasi model dapat memangkas waktu validasi sekitar 30 hingga 50 persen. Waktu pengembangan model juga berpotensi berkurang 20 hingga 40 persen.
Penggunaan AI dan teknologi agentic dapat memperluas manfaat tersebut. Sejumlah proses bahkan dapat dibuat menjadi alur otomatis, mulai dari mengambil data hingga menghasilkan laporan validasi.
Namun, otomatisasi tetap membutuhkan aturan dan pengawasan yang jelas. Bank harus menentukan siapa yang bertanggung jawab ketika sistem menghasilkan keputusan atau temuan yang bermasalah.
Tata Kelola AI Harus Melibatkan Banyak Fungsi
Pengelolaan risiko AI juga tidak bisa dibebankan kepada tim MRM saja. Risiko AI berkaitan dengan keamanan siber, teknologi informasi, hukum, regulasi, data, hingga penggunaan penyedia teknologi eksternal.
Ketergantungan terhadap model dan layanan pihak ketiga dapat menimbulkan risiko kebocoran data, keluaran yang bias, celah keamanan, dan masalah kepatuhan.
Karena itu, bank membutuhkan pembagian tanggung jawab yang jelas. Tim bisnis menjadi pihak yang memiliki penggunaan AI dan risikonya. Tim pusat dapat menyediakan standar serta perangkat pendukung.
Fungsi manajemen risiko kemudian menjalankan pengawasan independen. Perannya mencakup penetapan kebijakan, klasifikasi tingkat risiko, persyaratan persetujuan, validasi independen, hingga pemantauan risiko model. Perubahan tersebut membuat manajemen risiko model AI semakin strategis bagi perbankan.
Artikel ini telah diterbitkan oleh McKinsey dengan judul “Evolving Model Risk Management in The Age of AI”. Artikel selengkapnya dapat dibaca di sini.
