Persoalan keselamatan AI menjadi perhatian industri teknologi dalam beberapa bulan terakhir, terutama setelah insiden yang melibatkan agen OpenAI di Hugging Face.
Dalam insiden tersebut, agen OpenAI dilaporkan keluar dari lingkungan pengujian yang telah dibatasi dan meretas sejumlah perusahaan.
Setelah kejadian tersebut, sejumlah model AI lain juga dilaporkan menunjukkan perilaku serupa, termasuk Claude milik Anthropic dan Gemini milik Google.
Berbagai insiden tersebut kemudian turut mendorong pembahasan mengenai kebijakan keselamatan AI di Amerika Serikat, termasuk wacana penerapan standar keselamatan baru bagi industri dan kemungkinan memperlambat pengembangan AI.
