Kerangka Penilaian Risiko
Organisasi harus menangani risiko keselamatan secara komprehensif serta mempertimbangkan dampaknya terhadap pengguna, non-pengguna, dan hak asasi manusia (HAM). Kerangka kerja penilaian risiko ini merupakan hasil kerja kelompok multipemangku kepentingan. Dokumen ini dimaksudkan sebagai kerangka dasar untuk menyusun pendekatan dan diskusi mengenai penilaian risiko keselamatan digital.
Bank Studi Kasus
Sejumlah pendekatan dapat digunakan untuk mendorong penilaian risiko keselamatan digital dan menekankan sifatnya yang saling berhubungan.
A. Studi Kasus 1
Kerangka Kerja Digital Trust and Safety Partnership (DTSP)
DTSP merupakan inisiatif industri untuk mengembangkan praktik terbaik, yang diverifikasi melalui penilaian internal dan pihak ketiga yang independen. DTSP menyatukan perusahaan teknologi yang menyediakan berbagai macam produk dan layanan digital dengan pendekatan umum untuk meningkatkan kepercayaan dan keamanan di internet. Komitmen ini didukung oleh 35 praktik terbaik kepercayaan dan keselamatan yang mencakup berbagai fase kerangka kerja penilaian risiko.
- Konteks dan tujuan utama
Pada 2022, sepuluh perusahaan mitra DTSP melakukan penilaian internal atas penerapan DTSP best practices framework (BPF) menggunakan metodologi penilaian organisasi, Safe Framework. Studi kasus ini merangkum hasil dan temuan utama dari penilaian awal tentang cara penerapannya dalam praktik.
- Manfaat dan risiko
Manfaat utama pendekatan DTSP adalah menyediakan panduan di seluruh industri untuk mengatasi risiko terkait konten dan perilaku. DTSP juga bersifat agnostik terhadap konten dan teknologi sehingga perusahaan yang menghadapi risiko yang sangat berbeda dapat menyelaraskan diri dengan serangkaian praktik umum.
B. Studi Kasus 2
Kerangka Kerja Global Network Initiative (GNI)
Prinsip-prinsip GNI menetapkan kerangka kerja khusus untuk membantu perusahaan teknologi menghormati kebebasan berekspresi dan privasi saat berinteraksi dengan dan menanggapi tuntutan, tekanan, dan pembatasan pemerintah. Studi kasus ini mengkaji bagaimana uji tuntas hak asasi manusia (human rights due diligence/HRDD) dijelaskan dalam kerangka kerja GNI. Studi kasus ini juga menjelaskan bagaimana anggota GNI bersatu untuk menilai, belajar, dan meningkatkan upaya perusahaan secara kolektif melalui penilaian independennya.
- Konteks dan tujuan utama
Prinsip-prinsip GNI menyatakan bahwa perusahaan-perusahaan anggota akan dimintai pertanggungjawaban melalui suatu sistem. Laporan penilaian, yang dikembangkan oleh penilai independen dan terakreditasi, mencakup informasi sensitif dan nonpublik yang menggambarkan bagaimana perusahaan-perusahaan anggota menerapkan kerangka kerja GNI. Dewan multipihak GNI menggunakan laporan-laporan ini untuk menentukan apakah perusahaan menerapkan kerangka kerja dengan itikad baik dengan peningkatan dari waktu ke waktu.
- Manfaat dan risiko
Ada beberapa manfaat dari pendekatan berbasis HAM terhadap penilaian risiko yang dirinci dalam kerangka GNI dan United Nations Guiding Principles on Business and Human Rights (UNGP), antara lain, pemusatan risiko pada orang-orang yang terkena dampak dan pemastian pengikutsertaan kepentingan kelompok yang paling rentan. Sementara itu, beberapa risiko pendekatan ini, antara lain, penekanan berlebihan pada satu perusahaan atau jenis perusahaan dan perbedaan pandangan HAM dalam praktik.
C. Studi Kasus 3
Pendekatan Berbasis Sistem/Kode Praktik Selandia Baru
Kode Praktik Aotearoa Selandia Baru untuk Keselamatan dan Bahaya Daring (Aotearoa New Zealand Code of Practice for Online Safety and Harms) merupakan kode industri sukarela yang menyediakan kerangka kerja untuk meningkatkan keselamatan pengguna daring dan meminimalkan konten berbahaya. Kode ini dimaksudkan untuk menyediakan praktik terbaik dari berbagai macam produk dan layanan serta melayani komunitas pengguna yang beragam. Kode tersebut dikembangkan antara April 2021 dan Maret 2022 oleh Netsafe, sebuah organisasi keselamatan daring nirlaba independen di Aotearoa, Selandia Baru.
- Konteks dan tujuan utama
Kode ini membahas tema keselamatan dan konten berbahaya, meliputi
- eksploitasi dan pelecehan seksual anak,
- penindasan atau pelecehan,
- ujaran kebencian,
- hasutan untuk melakukan kekerasan,
- konten kekerasan atau grafis,
- misinformasi, dan
- disinformasi.
- Manfaat dan risiko
Kode ini mendukung inisiatif lintas industri untuk meningkatkan keamanan daring. Kode ini juga mengambil pendekatan berbasis sistem dan hasil terhadap keamanan daring dan moderasi konten. Pendekatan tersebut memfasilitasi akuntabilitas melalui transparansi kebijakan, proses, sistem, dan hasil.
D. Studi Kasus 4
Alat Penilaian Safety by Design dari Australian eSafety Commissioner untuk Perusahaan Rintisan
Studi kasus ini berfokus pada layanan media sosial fiktif dengan target basis pengguna berusia 13—18 tahun. Dalam studi kasus ini, alat penilaian Komisioner Keamanan Elektronik Australia diterapkan bagi perusahaan rintisan untuk mengukur tingkat keamanan pengguna dan mendapatkan informasi tentang celah keamanan yang harus diatasi oleh platform tersebut.
- Konteks dan tujuan utama
Komisioner eSafety menawarkan dua alat penilaian interaktif dan dinamis yang komprehensif untuk memandu dan mendukung industri dalam meningkatkan praktik keselamatan daring. Untuk setiap alat penilaian, pengguna diberikan modul edukatif tentang bahaya daring melalui serangkaian pilihan pertanyaan dan respons.
- Manfaat dan risiko
Studi kasus ini mengambil pendekatan yang berpusat pada manusia yang menempatkan keselamatan dan hak pengguna sebagai inti. Studi kasus ini juga mempertimbangkan kebutuhan peserta lain dalam ekosistem teknologi melalui konsultasi multipihak dengan lembaga swadaya masyarakat (LSM), advokat, orang tua, dan kaum muda. Selain itu, dengan menjawab kuesioner, platform daring dapat melihat celah yang menghambat upaya keamanan dan kepercayaan pengguna.
E. Studi Kasus 5
Keamanan Anak: Gim, Dunia Imersif, dan Metamesta
Studi kasus ini berfokus pada elemen dinamis dan imersif dari metamesta (metaverse) atau permainan (gim) dibandingkan dengan pengalaman media sosial dan permainan tradisional. Studi kasus mengikuti perjalanan pengguna yang umum, mulai dari pendaftaran pengguna hingga definisi avatar dan fitur kreatif yang lebih luas.
- Konteks dan tujuan utama
Studi kasus ini didasarkan pada penilaian klien yang nyata, yang dilakukan pada April 2019 oleh tim konsultan risiko Crisp. Studi kasus ini difokuskan pada fase identifikasi risiko dari kerangka kerja penilaian risiko, dengan fokus khusus pada risiko yang terkait dengan keselamatan anak, khususnya child sexual abuse material (CSAM).
- Manfaat dan risiko
Pendekatan yang diambil dapat, antara lain, memberikan penilaian yang jelas tentang platform, memungkinkan pembuatan heatmap, dan memungkinkan intervensi operasional dan strategis yang diprioritaskan.
F. Studi Kasus 6
Algoritma – Alat Penilaian Dampak AI
Kasus ini mengkaji penilaian dampak pengembangan fitur otomatis baru untuk mesin pencari guna memerangi penyebaran konten yang tidak diinginkan. Untuk keperluan studi kasus, fitur-fitur ini mencakup deteksi otomatis konten, penurunan peringkat konten otomatis, dan kontrol bagi manusia untuk memulai atau mengelola intervensi otomatis. Penilaian dampak dilakukan dengan metodologi kecerdasan artifisial (artificial intelligence/AI) yang bertanggung jawab dari Microsoft.
- Konteks dan tujuan utama
Studi kasus ini membahas penerapan fitur otomatis di mesin pencari untuk mengidentifikasi materi yang membahayakan pengguna dan mengurangi risiko HAM dengan mengurangi visibilitas konten yang tidak diinginkan dalam hasil pencarian.
- Manfaat dan risiko
Manfaat pendekatan ini adalah pendekatan selaras dengan pengembangan standar internasional, yang dikembangkan oleh International Organization for Standardization/International Electrotechnical Commission (ISO/IEC), dan dikembangkan bersama ISO/IEC 42001 Artificial Intelligence Management System (AIMS). Beberapa standar internasional yang terkait dengan AIMS diharapkan dalam manajemen risiko, tata kelola, dan sertifikasi sehingga pendekatan ini menjadi pendekatan yang kuat untuk perencanaan di masa mendatang.
Artikel ini telah diterbitkan oleh World Economic Forum, dengan judul “Digital Safety Risk Assessment in Action: A Framework and Bank of Case Studies” pada Mei 2023. Artikel selengkapnya dapat dibaca di sini.
