NADIKABAR.COM — Sekretaris Jenderal Perserikatan Bangsa-Bangsa (Sekjen PBB) Antonio Guterres menyerukan segenap pemangku kepentingan untuk mengelola risiko yang mungkin ditimbulkan pesatnya perkembangan kecerdasan buatan (AI), salah satunya dengan merumuskan Kerangka Kerja Pengelolaan Risiko AI.
"Selama berabad-abad, kekuatan berasal dari wilayah. Kemudian industri. Lalu keuangan. Kini, kekuatan semakin bersumber dari data, kapasitas komputasi, dan algoritma. Kekuatan baru ini sangat terkonsentrasi. Perkembangannya sangat cepat, serta melaju mendahului kemampuan kita untuk memahami seluruh dampaknya," kata Guterres dalam pidato pembukaan Debat Umum Sidang Majelis Umum PBB ke-81 di New York, Amerika Serikat, Selasa (22/9).
Menurut Guterres bahaya yang datang bukan dari teknologi itu sendiri, melainkan teknologi tanpa akuntabilitas, kemampuan tanpa pengawasan, serta pengambilan keputusan tanpa transparansi.
Ia menekankan bahaya tersebut tidak boleh diremehkan dan bahkan saat ini justru para pengembang yang turut membangun sistem-sistem tersebut yang ikut membunyikan alarm.
Guterres menegaskan tugas utama pemerintah adalah melindungi rakyatnya, sehingga pemerintah harus memikul tanggung jawab. Pemerintah dengan kemampuan AI terbesar memiliki tanggung jawab terbesar terhadap umat manusia, untuk membangun saluran bagi dialog, transparansi, kepercayaan, dan kerja sama.
Pada momen krusial selama Perang Dingin, para rival strategis menyadari perlunya mengelola risiko eksistensial bersama. Mereka membangun mekanisme untuk mengurangi kesalahpahaman, mengelola eskalasi, dan mencegah bencana. Kala itu, fokusnya adalah persenjataan nuklir. Kini, AI menuntut kejelasan tujuan dan urgensi serupa, ungkap sekjen PBB itu.
"Negara-negara yang memimpin revolusi teknologi ini harus berbagi informasi mengenai risiko keselamatan yang muncul, bekerja sama dalam pengujian dan evaluasi, serta mengupayakan langkah pengamanan bersama untuk melindungi kita semua," ujar Guterres.
"Namun, karena hal ini berdampak pada kita semua, koordinasi global sangatlah penting. Dan hanya ada satu tempat di mana setiap negara memiliki suara dalam menentukan masa depan kita bersama, dan tempat itu adalah PBB."
Melalui Global Digital Compact, negara-negara anggota PBB untuk pertama kalinya menyepakati prinsip-prinsip universal bagi tata kelola AI. Lewat Dialog Global Tata Kelola AI, sebuah platform dibentuk agar pemerintah, ilmuwan, pemimpin industri, dan masyarakat sipil dapat bekerja sama. Selain itu, melalui Panel Ilmiah Internasional Independen tentang AI, PBB telah menghimpun keahlian global untuk memastikan kebijakan dipandu oleh bukti, ujarnya.
Melanjutkan upaya-upaya tersebut, negara-negara anggota PBB harus mengambil langkah selanjutnya; pertama, mendorong terciptanya kondisi bagi pengaturan laju pengembangan AI secara bertanggung jawab serta langkah-langkah pengamanan tambahan yang diperlukan untuk mengatasi berbagai risiko; dan kedua, mengupayakan pembentukan Kerangka Kerja Manajemen Risiko AI multilateral yang didukung oleh pengawasan yang kredibel dan independen, ujar Guterres.
AI harus dibentuk oleh umat manusia, bersama umat manusia, dan demi kepentingan seluruh umat manusia. Anak-anak tidak boleh dijadikan objek uji coba bagi sistem yang berjalan tanpa aturan. Keputusan hidup-mati tidak boleh diserahkan kepada mesin. Robot-robot pembunuh tidak boleh memiliki tempat dalam masa depan kita, imbuh Guterres.
