Pada era masuknya kecerdasan buatan (artificial intelligence/AI) ke dalam hampir semua aspek kehidupan manusia, keharusan untuk melakukan pengawasan yang kuat menjadi penting. Untuk itu, ISACA melakukan survei terhadap 3.270 profesional audit, risiko, tata kelola, privasi, dan keamanan siber mengenai AI. Survei ini membahas kesenjangan pengetahuan, kebijakan, risiko, pekerjaan, dan lainnya.
Pentingnya Pelatihan
Terlepas dari adopsi teknologi AI, masih ada kesenjangan dalam pelatihan dan panduan yang disertakan. Survei mengungkapkan bahwa hanya seperempat responden yang merasa sangat akrab dengan AI. Sebanyak 46% responden tersebut menganggap diri mereka sebagai pemula.
Kurangnya pemberdayaan dalam program pelatihan perusahaan ditunjukkan dengan adanya 40% responden yang menyatakan bahwa perusahaan tidak menawarkan pelatihan AI sama sekali. Yang lebih memprihatinkan, pelatihan seharusnya diadakan dan diperuntukkan bagi mereka yang berada di posisi teknis. Jika tidak, tenaga kerja tidak akan siap menghadapi lanskap digital.
Kesenjangan Tata Kelola
Survei menunjukkan kesenjangan yang mengejutkan dalam pengawasan tata kelola AI. Hanya 15% perusahaan yang memiliki kebijakan formal untuk mengatur dan mengelola penggunaan teknologi AI.
Temuan survei ini menggarisbawahi kebutuhan kritis akan kerangka kerja tata kelola AI yang kuat. Kerangka kerja ini harus memastikan bahwa AI digunakan secara etis, transparan, dan selaras dengan tujuan perusahaan. Tidak hanya pengembangan dan penegakan kebijakan, tata kelola ini juga harus membahas pemantauan dan adaptasi yang berkelanjutan.
Risiko AI
Perkembangan teknologi AI memunculkan risiko. Sebanyak 60% responden mengaku sangat khawatir atas potensi AI generatif (GenAI) yang dapat dieksploitasi oleh pihak-pihak tidak bertanggung jawab. Kekhawatiran ini meliputi adanya serangan phishing yang canggih. Selain itu, 81% responden mengidentifikasi misinformasi dan disinformasi sebagai risiko terbesar yang terkait dengan AI.
Yang paling mengkhawatirkan, hanya 35% responden yang memandang penanganan risiko AI sebagai prioritas utama perusahaan. Kesenjangan antara pengakuan risiko AI dan prioritas mitigasi menandakan perlunya pendekatan strategis untuk manajemen risiko AI. Perusahaan harus secara aktif mengintegrasikan manajemen risiko ke dalam kerangka kerja tata kelola AI.
Rencana ke Depan
Untuk menjembatani kesenjangan, perusahaan harus memprioritaskan pengembangan kerangka kerja tata kelola AI. Hal ini meliputi kebutuhan untuk menyusun pedoman yang jelas tentang penggunaan AI, penanganan data, serta mitigasi risiko dan bias. Perluasan program pelatihan AI di seluruh tingkatan organisasi juga diperlukan, begitu pula dengan pemastian karyawan untuk menggunakan alat AI secara efektif dan bertanggung jawab.
Artikel ini telah diterbitkan oleh ISACA, dengan judul “A Better Path Forward for AI By Addressing Training, Governance and Risk Gaps” pada 7 Mei 2024. Artikel selengkapnya dapat dibaca di sini.
