Pada Rabu, 12 Juni 2024, RiskHub International Webinar diselenggarakan oleh IRMAPA dan ERMA (Enterprise Risk Management Academy).
Acara ini disponsori oleh Marsh serta terselenggara berkat dukungan dari CRMS (Center for Risk Management Studies) dan LSP MKS. Dengan dipimpin oleh MC Tasha Christina dan dimoderatori oleh Reynaldi Hartanto selaku Program Director ERMA, acara ini mengangkat tema “AI and Risk Management Based on ISO 24894 and ISO 42001: Proactive approaches for sustainable innovation”.
Webinar diawali dengan sambutan dari Aldi Ardilo selaku Executive Director ERMA. Agenda berikutnya berisi pemaparan materi oleh dua narasumber, yaitu Dr. Patrick Chin (Chief Digital Officer at Clairvoyant Lab Singapore) dan Tuhu Nugraha (Principal of Indonesia Applied Digital Economy & Regulatory Network/IADERN).
Dr. Patrick Chin: Meski Potensial, Gen AI Memiliki Risiko Unik
Pada paparannya, Dr. Chin menyebutkan bahwa penggunaan kecerdasan artifisial (artificial intelligence/AI) generative—dikenal sebagai gen AI—meningkat pesat dalam berbagai sektor. Berbeda dengan AI tradisional, gen AI memiliki nilai yang berfokus pada empat area: keterlibatan pelanggan, sintesis konten, pembuatan konten, serta pengodean dan perangkat lunak.
Secara umum, untuk memahami AI, Dr. Chin membagi sejumlah sistem dalam rangkaian kecerdasan mesin berikut.
- act (mesin berbasis aturan sederhana)
- predict (pembuatan prediksi berdasarkan data)
- learn (pembelajaran mesin dengan intervensi manual yang lebih sedikit)
- create (fase pembuatan konten)
- relate (kesesuaian mesin dengan kecerdasan emosional manusia)
- master (kemampuan memahami abstract thinking)
- evolve (pengembangan kecerdasan sebagaimana manusia mengonsumsi data dan memproduksi konten)
Meski penggunaan gen AI memberikan potensi keuntungan, terdapat beberapa risiko unik yang harus dipertimbangkan. Risiko-risiko ini mencakup, antara lain, ketidakadilan/bias; dampak terhadap kekayaan intelektual; masalah privasi; ancaman keamanan; dampak organisasi; serta dampak lingkungan, sosial, dan tata kelola.
Tuhu Nugraha: Tidak Ada Pilihan untuk Tidak Mengadopsi AI
Tuhu mengamini pernyataan yang menyebutkan bahwa keadaan potensial gen AI hadir bersama sejumlah risiko. Meski begitu, bagi Tuhu, organisasi tidak bisa memilih untuk mengadopsi atau tidak mengadopsi AI. Sebaliknya, organisasi justru harus membuat pilihan mengenai bagaimana caranya agar risiko-risiko yang muncul dapat dimitigasi. “When you get out of the AI, you will lose the battleground,” katanya.
ISO 42001 (AI management systems) menjadi alat yang membahas komponen utama berupa penilaian risiko, perlakuan risiko, pemantauan dan reviu, serta komunikasi dan konsultasi. Terdapat sejumlah prinsip manajemen risiko berdasarkan standar tersebut, antara lain, integrasi, kustomisasi, pengembangan kesinambungan, dan pertimbangan kontekstual. Set standar lain yang terkait adalah ISO 23894 (AI – Guidance on risk management). ISO ini membahas pertimbangan etis, tata kelola data, transparansi algoritma, serta kepatuhan dan akuntabilitas.
Secara umum, Tuhu menyebutkan aspek-aspek kritis dari manajemen risiko AI. Aspek-aspek yang dimaksud adalah
- penerapan AI yang etis,
- pengelolaan bias dan keadilan dalam algoritma AI,
- pemastian ketahanan dan keamanan sistem AI, serta
- peran pengawasan manusia dalam pengambilan keputusan AI.
Sesi tanya jawab dilakukan setiap pemaparan materi dilakukan oleh tiap-tiap pembicara.
Gambar 1. Kata sambutan oleh Aldi Ardilo (selaku Executive Director ERMA)
Gambar 2. Pemaparan materi oleh Dr. Patrick Chin (Chief Digital Officer at Clairvoyant Lab Singapore)
Gambar 3. Pemaparan materi oleh Tuhu Nugraha (Principal of Indonesia Applied Digital Economy & Regulatory Network/IADERN)
Gambar 4. Sesi diskusi & tanya jawab
