Penggunaan kecerdasan buatan (artificial intelligence/AI) kian meluas di bidang profesional. AI menggunakan data dari pengguna untuk mempelajari pola perilaku, memprediksi tren masa depan, serta membuat dan meniru karya. Meski dianggap bermanfaat, AI rupanya dapat menghadapkan penggunanya pada risiko kehilangan kekayaan intelektual dan data lainnya.
Kebijakan Perusahaan terhadap AI
Pada Maret lalu, Samsung mengalami kebocoran informasi sensitif perusahaan. Sejumlah karyawan tanpa sengaja melanggar kerahasiaan perusahaan saat menggunakan ChatGPT untuk mengoptimalkan urutan pengujian dalam pengidentifikasian kesalahan dalam chip; menulis presentasi; dan menulis catatan rapat.
Cara terbaik yang diharapkan dilakukan perusahaan adalah dengan memberi tahu karyawan secara eksplisit mengenai penggunaan AI yang bisa dan tidak bisa diterima di tempat kerja. Aturan yang jelas ini mencakup edukasi mengenai data apa saja yang bisa dan tidak bisa dimasukkan ke dalam alat layanan AI.
Isu-isu yang perlu dipertimbangkan adalah keamanan model AI, kerentanan yang mungkin dimiliki, kemungkinan paparan data, tindakan untuk otentikasi dan otorisasi, serta pencatatan dan pemantauan yang sesuai. Isu-isu inilah yang kemudian dapat menjadi pertanyaan-pertanyaan untuk persiapan mitigasi risiko, evaluasi keterampilan karyawan, keamanan siber internal perusahaan, dan deteksi ancaman yang akan datang.
Peran Manajer Risiko
Manajer risiko berperan penting dalam peningkatan keamanan siber dan risiko data terhadap AI. Tata kelola data yang kuat juga diperlukan, yaitu dengan mengembangkan kebijakan dan prosedur secara komprehensif atas penyimpanan dan pemrosesan data yang aman. Perusahaan harus melakukan enkripsi data sensitif, menerapkan kontrol akses, dan melakukan audit secara rutin. Di samping itu, perusahaan harus mempromosikan budaya kesadaran keamanan serta mengenali teknik rekayasa sosial dan potensi pelaporan kerentanan.
Dalam membangun tata kelola, perusahaan disarankan membangun kerangka kerja risiko keamanan siber. Kolaborasi juga perlu dilakukan oleh manajer risiko di seluruh perusahaan dengan melibatkan pakar keamanan siber, pakai AI, hingga tim hukum dan kepatuhan. Tujuannya adalah untuk mencapai pemahaman bersama mengenai risiko AI dan perlindungan yang sesuai.
Fokus Keamanan Data
Peningkatan risiko dunia maya dipercaya bukan merupakan kesalahan AI, melainkan karena buruknya pengelolaan risiko. Dalam hal keamanan, banyak perusahaan berada pada kondisi yang lebih buruk dibandingkan enam bulan yang lalu saat terjadi mitigasi risiko data perusahaan dan pelanggan.
Teknologi AI memang berkembang dengan cepat. Kurangnya kontrol keamanan yang memadai tentu meningkatkan risiko bagi perusahaan. Itu sebabnya, perusahaan dan tenaga profesional perlu bertindak cepat dalam memahami risiko dan menentukan kontrol yang sesuai. Di samping itu, tata kelola risiko perlu bersifat cukup fleksibel agar lebih adaptif saat ancaman baru muncul.
Artikel ini telah diterbitkan oleh The Risk Management Society, dengan judul Managing Data Security Risks of AI Technology oleh Neil Hodge pada 1 Agustus 2023.
