Kemajuan dalam bidang kecerdasan buatan atau Artificial Intelligence (AI) telah membawa dampak yang signifikan pada berbagai aspek kehidupan, terutama dalam dunia bisnis. Namun, dengan pertumbuhan yang cepat ini, muncul pula sejumlah tantangan yang perlu diatasi, terutama bagi organisasi dengan program Responsibilitas dalam Kecerdasan Buatan atau Responsibility in Artificial Intelligence (RAI) yang bertujuan untuk mengembangkan alat dan sistem AI secara internal.
Dalam realitas saat ini, sebagian besar organisasi mengandalkan alat AI pihak ketiga, tanpa mengembangkan solusi AI secara internal. Ini menimbulkan risiko karena kegagalan AI dari teknologi pihak ketiga dapat menyebabkan dampak yang signifikan. Oleh karena itu, evaluasi solusi eksternal secara proaktif menjadi kunci untuk mengantisipasi dan mencegah kegagalan tersebut.
Kepala AI dan data di H&M Group, Linda Leopold, menekankan pentingnya program AI yang bertanggung jawab yang mencakup baik alat AI internal maupun pihak ketiga. Prinsip etika harus diterapkan sama, tidak peduli dari mana sistem AI berasal.
Tantangan utama bagi program RAI saat ini adalah semakin lebarnya kesenjangan antara pemimpin dan non-pemimpin dalam adopsi teknologi AI. Meskipun ekosistem solusi AI pihak ketiga semakin berkembang, risiko yang harus diatasi juga semakin kompleks. Banyak organisasi mengalokasikan sumber daya internal untuk AI yang bertanggung jawab, tetapi hal ini tampaknya menurun seiring dengan tren PHK yang lebih luas di industri.
Peraturan baru yang berkaitan dengan AI juga semakin meningkat, baik di tingkat nasional maupun internasional. Hal ini menuntut organisasi untuk memperhatikan peraturan tersebut dalam penggunaan AI, terutama dalam konteks penggunaan alat AI pihak ketiga. Ketidakpatuhan terhadap peraturan dapat mengakibatkan sanksi yang serius bagi organisasi.
Keterlibatan CEO dalam program RAI menjadi kunci dalam mengidentifikasi dan mengatasi risiko yang ada serta memastikan kesiapan organisasi dalam menghadapi perubahan regulasi dan teknologi AI yang terus berkembang. Organisasi dengan CEO yang aktif dalam upaya RAI cenderung mendapatkan manfaat bisnis yang lebih besar daripada yang tidak.
Dengan adanya risiko yang semakin besar terkait dengan penggunaan AI dan peraturan yang semakin ketat, organisasi harus meningkatkan investasi mereka dalam program RAI. Sekarang adalah waktu yang tepat untuk menggandakan dan memperkuat upaya RAI guna menghadapi tantangan yang semakin kompleks di masa depan.
Kesimpulannya, menjadi organisasi yang bertanggung jawab dalam penggunaan AI menjadi lebih penting daripada teknologi AI itu sendiri. Program RAI yang matang dan berfokus pada evaluasi risiko, kepatuhan terhadap peraturan, dan keterlibatan CEO menjadi kunci dalam menghadapi tantangan AI pihak ketiga dan memastikan keberhasilan organisasi di era AI yang berkembang pesat.
Artikel ini telah diterbitkan oleh BCG pada Juni 2023, dengan judul Building Robust RAI Programs as Third-Party AI Tools Proliferate. Artikel selengkapnya dapat dibaca di sini.
