Ketersediaan kecerdasan buatan (artificial intelligence/AI) generatif secara massal, seperti ChatGPT dari OpenAI dan Google Bard, menjadi perhatian utama para eksekutif risiko perusahaan pada kuartal kedua 2023.
“AI generatif adalah risiko kedua yang paling sering disebut dalam survei kuartal kedua kami, yang muncul di daftar 10 besar untuk pertama kalinya,” kata Ran Xu, Direktur Penelitian Gartner Risk & Audit Practice. “Hal ini mencerminkan pertumbuhan pesat kesadaran publik dan penggunaan alat AI generatif serta luasnya potensi kasus penggunaan dan potensi risiko yang ditimbulkan oleh alat ini.”
Ketersediaan AI Generatif
Gartner sebelumnya mengidentifikasi 6 risiko AI generatif dan 4 area regulasi AI yang relevan dengan fungsi assurance. Dalam hal mengelola risiko perusahaan, ada tiga aspek utama yang harus diperhatikan.
- Kekayaan intelektual
“Informasi yang dimasukkan ke dalam alat AI generatif dapat menjadi bagian dari rangkaian pelatihannya, yang berarti bahwa informasi sensitif atau rahasia dapat berakhir pada keluaran untuk pengguna lain,” kata Xu. Maka, penting untuk mengedukasi pimpinan perusahaan tentang kehati-hatian dan transparansi dalam penggunaan alat sehingga risiko kekayaan intelektual dapat dimitigasi dengan baik baik.
- Privasi data
Alat AI generatif dapat membagikan informasi pengguna dengan pihak ketiga, seperti vendor atau penyedia layanan tanpa pemberitahuan. Hal ini berpotensi melanggar hukum privasi di banyak yurisdiksi.
- Keamanan siber
“Peretas selalu menguji teknologi baru untuk mencari cara menumbangkannya demi tujuan mereka sendiri. AI generatif tidak berbeda,” kata Xu. “Kami melihat contoh-contoh kode malware dan ransomware yang diakali oleh AI generatif untuk diproduksi, serta serangan prompt injections. Hal ini mengarah pada industrialisasi serangan phishing tingkat lanjut.”
Implikasi Risiko Kelangsungan Hidup Pihak Ketiga
Jika kondisi ekonomi memburuk secara luas, penurunan permintaan yang tidak terduga dapat muncul dan memengaruhi kelangsungan hidup vendor atau kemampuan mereka untuk menyediakan barang dan jasa secara tepat waktu. Terdapat tiga potensi konsekuensi kelangsungan hidup pihak ketiga yang perlu dipantau oleh manajer risiko seiring dengan berkembangnya situasi sebagai berikut.
- Hilangnya input dan bahan utama
Jika pihak ketiga menaikkan harga karena situasi ekonomi, akan ada risiko kehilangan akses ke input dan bahan utama. Hal ini dikarenakan pihak ketiga lebih memilih pelanggan yang membayar dengan harga lebih tinggi.
- Asumsi perencanaan keuangan yang cacat
Asumsi biaya menjadi tidak valid ketika pemasok menaikkan harga atau gagal sehingga memerlukan biaya peralihan dan kenaikan harga untuk mendapatkan barang dan jasa.
- Tantangan di luar rantai pasokan
Para mitra, termasuk penyedia layanan terkelola atau mitra komersial, kreditor, dan vendor teknologi dapat menghentikan atau mengurangi operasi.
Artikel ini telah diterbitkan oleh ERMA, dengan judul “Navigating Generative AI Risks and Regulatory Challenges” pada 14 Agustus 2023. Artikel selengkapnya dapat dibaca di sini.
