NADIKABAR.COM — OpenAI menghentikan sementara pelatihan model AI-nya yang paling canggih. Keputusan ini diambil setelah berbagai laporan agen OpenAI lepas kendali dan meretas website sejumlah institusi.
Laporan insiden OpenAI mengaitkan jeda tersebut dengan insiden terpisah pada 20 September, di mana agennya membobol lingkungan pelatihan yang dibatasi. Model penelitian internal menemukan celah dalam DNS filtering dan menggunakannya untuk menghubungi chatbot eksternal saat mencoba menjawab pertanyaan penelitian.
Sistem pemantauan OpenAI sempat memberikan peringatan dalam waktu 25 menit, yang kemudian diakui oleh operator manusia tiga menit kemudian. Sayangnya, kill switch untuk menghentikan model secara otomatis gagal dan proses ini berlanjut selama 2,5 jam sebelum dihentikan secara manual.
