Kekhawatiran tersebut semakin menguat dalam beberapa bulan terakhir setelah semakin banyak peneliti yang ingin pengembangan AI diperlambat. Akhir pekan lalu, peneliti keamanan OpenAI David Robinson mengundurkan diri dan menyebut budaya keselamatan di perusahaan tersebut sudah rusak.
Kekhawatiran juga dipicu laporan bahwa agen milik OpenAI lepas kendali dan meretas platform Hugging Face tanpa sepengetahuan mereka. Insiden itu diikuti dengan peretasan website milik pemerintah Australia dan Amerika Serikat.
Insiden tersebut memicu pertanyaan tentang seberapa andal perusahaan AI dalam mengendalikan produknya, dan seberapa cepat mereka memberi tahu dunia ketika terjadi masalah. Perdana Menteri Australia Anthony Albanese belum lama ini mengecam OpenAI dan Altman karena baru memberi tahu insiden peretasan website layanan kesehatan Australia beberapa bulan setelah terjadi.
