Risiko AI generatif kini menjadi perhatian banyak perusahaan di tengah penggunaan teknologi kecerdasan buatan yang semakin luas. Teknologi ini memang membantu meningkatkan efisiensi bisnis, tetapi juga membuka celah risiko baru yang tidak bisa dianggap sepele.
Laporan dari Aon menyebutkan, penggunaan AI generatif sudah memicu berbagai insiden serius. Salah satunya adalah penipuan yang memanfaatkan teknologi ini untuk meniru suara dan wajah eksekutif perusahaan. Dalam satu kasus, pelaku berhasil menipu perusahaan hingga kerugian mencapai jutaan dolar.
Selain itu, gangguan teknologi seperti insiden CrowdStrike menunjukkan bagaimana kegagalan satu sistem bisa berdampak luas ke operasional bisnis dan rantai pasok.
Risiko AI Generatif Semakin Kompleks
Risiko AI generatif tidak hanya datang dari satu sisi. Ada beberapa jenis ancaman yang kini mulai muncul seiring adopsi teknologi ini.
Pertama, serangan siber berbasis AI. Pelaku kejahatan kini memanfaatkan AI untuk membuat serangan lebih cepat dan sulit dideteksi. Mereka bisa membuat malware baru atau menjalankan penipuan dengan teknik rekayasa sosial yang lebih meyakinkan.
Kedua, penggunaan AI tanpa pengawasan. Banyak perusahaan mulai bereksperimen dengan AI tanpa melalui proses pengujian dan pengamanan yang memadai. Praktik ini sering disebut sebagai “shadow AI”. Akibatnya, celah keamanan makin besar dan mudah dimanfaatkan.
Ketiga, dampak yang tidak disengaja. AI bisa menghasilkan informasi yang bias atau tidak akurat. Jika digunakan dalam layanan pelanggan atau keputusan bisnis, hal ini bisa merusak reputasi perusahaan.
Perusahaan Perlu Perkuat Manajemen Risiko
Menghadapi risiko AI generatif, perusahaan perlu memperkuat manajemen risiko secara menyeluruh. Tim risiko harus memahami bagaimana AI digunakan di dalam organisasi, termasuk potensi dampaknya.
Langkah pertama adalah meningkatkan koordinasi dengan tim teknologi. Perusahaan perlu memetakan penggunaan AI yang sedang berjalan maupun yang masih dalam tahap rencana. Dari situ, risiko bisa diidentifikasi lebih awal.
Langkah berikutnya adalah bekerja sama dengan mitra eksternal, seperti vendor dan perusahaan asuransi. Saat ini, banyak polis asuransi belum secara jelas mengatur risiko AI. Karena itu, perusahaan perlu mengevaluasi apakah perlindungan yang dimiliki sudah cukup.
Kasus gangguan CrowdStrike menjadi pelajaran penting. Dampaknya tidak hanya dirasakan oleh perusahaan yang menggunakan layanan tersebut, tetapi juga oleh pihak lain dalam ekosistem bisnis. Ini menunjukkan pentingnya perlindungan risiko yang mencakup seluruh rantai pasok.
Risiko AI generatif juga berkaitan dengan komunikasi perusahaan kepada publik. Banyak perusahaan mulai menyebut AI sebagai bagian dari strategi bisnis mereka.
Namun, pernyataan yang berlebihan bisa berujung masalah. Di beberapa negara, otoritas mulai menindak perusahaan yang dianggap melebih-lebihkan kemampuan AI mereka. Hal ini bisa berdampak pada kepercayaan investor dan harga saham.
Karena itu, manajemen perlu memastikan bahwa setiap klaim terkait AI sesuai dengan kondisi sebenarnya di lapangan.
Penggunaan AI generatif diperkirakan akan terus meningkat dalam beberapa tahun ke depan. Teknologi ini menawarkan banyak peluang, tetapi juga membawa risiko yang terus berkembang.
Perusahaan yang mampu memahami risiko AI generatif sejak awal akan lebih siap menghadapi perubahan. Sebaliknya, perusahaan yang mengabaikan aspek ini berpotensi menghadapi kerugian yang lebih besar di masa depan.
Artikel ini telah diterbitkan oleh AON, dengan judul The Role of Risk Management in the Age of Generative Artificial Intelligence. Artikel selengkapnya dapat dibaca di sini.
