NADIKABAR.COM — Bangsa (NadiKabar) - Sebuah panel PBB mengenai kecerdasan buatan (AI) pada Senin (21/9) memperingatkan bahwa mekanisme perlindungan konvensional untuk agen AI mulai melemah.
Panel Ilmiah Internasional Independen tentang AI menyampaikan peringatan tersebut dalam laporan tematis pertamanya, yang merupakan kajian atas insiden pembobolan sistem perusahaan AI asal AS, Hugging Face, pada Juli lalu oleh agen-agen AI yang sedang dievaluasi oleh OpenAI, perusahaan AI AS lainnya.
Panel tersebut menemukan bahwa menghentikan insiden itu tidak menjamin bahwa manusia dapat secara andal mengendalikan agen-agen AI saat ini, terutama karena agen-agen tersebut menjadi semakin mumpuni, lebih sulit dipantau, dan lebih mahir dalam menemukan celah atau menyembunyikan aktivitas mereka. Interpretasi awal dan pelajaran yang langsung dapat dipetik adalah bahwa praktik keamanan siber dasar telah diabaikan, dan perlindungan tidak berkembang secepat peningkatan kapabilitas, menurut panel itu.
