"Kekhawatiran yang lebih berbahaya dan serius adalah bahwa metode pelatihan yang ada saat ini dapat mendorong agen-agen itu mengadopsi tujuan mereka sendiri, dengan sengaja melanggar instruksi keamanan, dan menyembunyikan tindakan mereka," kata panel tersebut dalam sebuah rilis pers. Hal itu menimbulkan pertanyaan apakah perlindungan yang dirancang saat ini akan tetap efektif ketika agen-agen tersebut mampu memahaminya dan menyusun rencana untuk mengatasinya.
Sederhananya, model perlindungan tradisional mulai melemah, kata panel tersebut. Panel itu juga menemukan bahwa tantangan tata kelola sedang bergeser dari model AI ke agen AI.
Kegagalan lokal dapat menyebar melampaui batas-batas organisasi dan negara. Keamanan AI mungkin mulai menjadi persoalan keamanan kolektif sekaligus tata kelola korporat. Panel itu, yang dibentuk oleh Majelis Umum PBB, terdiri dari 40 pakar independen dari seluruh kawasan. Panel tersebut menerbitkan versi awal yang belum diedit agar laporan itu dapat diakses oleh para pemimpin dunia yang sedang berkumpul di New York dalam rangka Pekan Tingkat Tinggi Majelis Umum PBB tahun ini.
