Pakar PBB memperingatkan, pengembangan AI tidak bisa hanya bergantung pada keinginan pasar – Teknologi
abyasa
Pakar PBB memperingatkan, pengembangan AI tidak bisa hanya bergantung pada keinginan pasar – Teknologi
Pengembangan kecerdasan buatan tidak boleh dipandu oleh kekuatan pasar saja, para ahli PBB memperingatkan pada hari Kamis, menyerukan terciptanya alat untuk kerja sama global.
Namun mereka menahan diri untuk mengusulkan pembentukan badan pengatur sedunia yang kuat untuk mengawasi peluncuran dan evolusi teknologi, yang penyebarannya telah menimbulkan kekhawatiran seputar bias, penyalahgunaan, dan ketergantungan.
Panel yang terdiri dari sekitar 40 ahli dari bidang teknologi, hukum, dan perlindungan data dibentuk oleh Sekretaris Jenderal PBB Antonio Guterres pada bulan Oktober.
Laporan mereka, yang diterbitkan beberapa hari sebelum dimulainya “KTT Masa Depan” PBB yang bergengsi, menimbulkan kekhawatiran atas kurangnya tata kelola global AI serta pengecualian negara-negara berkembang dari perdebatan seputar teknologi tersebut.
“Saat ini, terdapat defisit tata kelola global terkait AI,” yang pada hakikatnya bersifat lintas batas, para ahli memperingatkan dalam laporan mereka.
“AI harus melayani kemanusiaan secara adil dan aman,” kata Guterres minggu ini.
Setiap hari senin
“Jika tidak diatasi, bahaya yang ditimbulkan oleh kecerdasan buatan dapat menimbulkan implikasi serius bagi demokrasi, perdamaian, dan stabilitas.”
– ‘Terlambat’? –
Terhadap latar belakang seruannya yang jelas, para ahli meminta para anggota PBB untuk menyiapkan mekanisme guna memudahkan kerja sama global mengenai isu tersebut, serta mencegah proliferasi yang tidak diinginkan.
“Pengembangan, penerapan, dan penggunaan teknologi semacam itu tidak dapat diserahkan pada keinginan pasar saja,” kata laporan itu.
Pertama-tama, ia menyerukan pembentukan sekelompok ahli AI ilmiah yang akan dimodelkan pada Panel Antarpemerintah tentang Perubahan Iklim (IPCC), yang laporannya merupakan pernyataan terakhir tentang isu perubahan iklim.
Panel tersebut akan memberi pengarahan kepada masyarakat internasional tentang risiko yang muncul dan mengidentifikasi kebutuhan penelitian serta menjajaki bagaimana penelitian tersebut dapat digunakan untuk mengurangi kelaparan, kemiskinan, dan ketidaksetaraan gender, di antara tujuan-tujuan lainnya.
Usulan tersebut dimasukkan dalam rancangan Global Digital Compact, yang masih dalam pembahasan, yang akan diadopsi pada hari Minggu di “KTT Masa Depan.”
Laporan tersebut mendukung pembentukan struktur “koordinasi” yang longgar dalam sekretariat PBB.
Namun, hal itu tidak sampai pada pembentukan badan pemerintahan internasional yang lengkap — seperti yang diinginkan oleh Guterres — berdasarkan model pengawas nuklir PBB, IAEA.
“Jika risiko AI menjadi lebih serius dan lebih terkonsentrasi, mungkin perlu bagi Negara Anggota untuk mempertimbangkan lembaga internasional yang lebih kuat dengan kewenangan pemantauan, pelaporan, verifikasi, dan penegakan hukum,” kata laporan itu.
Guterres tetap menyambut baik laporan dan rekomendasinya, dengan mengatakan dalam sebuah video bahwa laporan dan rekomendasi tersebut merupakan “cetak biru untuk membangun upaya yang ada dan bersama-sama membentuk arsitektur AI internasional yang inklusif, tangkas, dan efektif.”
Para penulis mengakui bahwa karena kecepatan perubahan AI yang sangat tinggi, tidak ada gunanya mencoba menyusun daftar lengkap bahaya yang ditimbulkan oleh teknologi yang terus berkembang ini.
Namun mereka menyoroti bahaya disinformasi bagi demokrasi, deepfake yang semakin realistis (terutama yang bersifat pornografi), serta evolusi senjata otonom dan penggunaan AI oleh kelompok kriminal dan teroris.
“Namun, mengingat kecepatan, otonomi, dan ketidakjelasan sistem AI, menunggu munculnya ancaman dapat berarti respons apa pun akan datang terlambat,” kata laporan itu.
“Penilaian ilmiah dan dialog kebijakan yang berkelanjutan akan memastikan bahwa dunia tidak terkejut.”
