Dalam beberapa bulan terakhir, kecerdasan buatan (AI) telah menarik perhatian luas dengan aplikasi personal dan profesionalnya yang beragam, seperti yang ditunjukkan oleh alat seperti ChatGPT. Namun, penting juga untuk memahami risiko yang ditimbulkan oleh teknologi AI, termasuk ancaman keamanan data yang signifikan yang sudah memberikan konsekuensi tak terduga bagi perusahaan.
Teknologi AI memungkinkan pengguna untuk memasukkan lebih banyak data dan menggunakan informasi tersebut untuk mempelajari pola perilaku, memprediksi tren masa depan, dan menciptakan serta meniru karya, suara, dan gambar dengan cepat. Meskipun ini memiliki banyak manfaat bagi organisasi, para ahli memperingatkan bahwa paparan data, kehilangan kekayaan intelektual, dan risiko keamanan data lainnya akan meningkat secara eksponensial.
Contoh nyata dari risiko ini adalah insiden yang dialami Samsung pada Maret lalu. Karyawan Samsung, tanpa sadar, membocorkan informasi rahasia perusahaan ketika mereka menggunakan ChatGPT untuk memecahkan masalah terkait pekerjaan. Dalam satu insiden, seorang karyawan memasukkan urutan pengujian yang bersifat rahasia ke dalam ChatGPT untuk dioptimalkan, sementara yang lain memasukkan catatan rapat yang bersifat rahasia.
Kesalahan ini memaksa perusahaan untuk mempertimbangkan siapa yang dapat mengakses alat AI dan untuk tujuan apa. Beberapa perusahaan besar seperti Amazon, Apple, dan Verizon telah melarang penggunaan ChatGPT oleh karyawan mereka, sementara perusahaan Wall Street seperti JPMorgan Chase, Bank of America, dan Citigroup juga membatasi penggunaannya.
Namun, larangan atau pembatasan ini dapat menimbulkan masalah lain. Karyawan mungkin tetap menggunakan alat AI di tempat kerja meskipun ada kebijakan perusahaan yang melarangnya. Solusi terbaik adalah dengan memberikan panduan eksplisit kepada karyawan tentang apa yang boleh dan tidak boleh dilakukan dengan AI di tempat kerja. Selain itu, perusahaan perlu meningkatkan kesadaran risiko melalui pelatihan.
Manajer risiko memiliki peran penting dalam melindungi perusahaan dari peningkatan risiko keamanan siber dan data yang diperkenalkan oleh AI. Langkah pertama adalah melakukan penilaian risiko menyeluruh. Perusahaan harus mengevaluasi potensi risiko yang terkait dengan teknologi AI, mengidentifikasi sistem AI yang digunakan, dan mengidentifikasi celah yang perlu diatasi.
Langkah penting lainnya adalah menerapkan tata kelola data yang kuat dengan mengembangkan kebijakan dan prosedur komprehensif untuk memastikan pengumpulan, penyimpanan, dan pemrosesan data yang aman. Perusahaan harus mengenkripsi data sensitif, menerapkan kontrol akses, dan secara rutin mengaudit praktik penanganan data.
Teknologi AI berkembang dengan cepat. Organisasi dan profesional risiko perlu bertindak cepat untuk memahami risiko AI dan memastikan mereka memiliki kontrol yang tepat serta kerangka kerja tata kelola risiko yang fleksibel untuk beradaptasi dengan ancaman baru. Kurangnya tindakan dapat menempatkan data perusahaan yang berharga dalam risiko.
Artikel ini telah diterbitkan oleh ERMA, dengan judul Managing Data Security Risks of AI Technology. Artikel selengkapnya dapat dibaca di sini.
