NADIKABAR.COM — OpenAI membatalkan rencana peluncuran model kecerdasan artifisial (AI) terbarunya, Astra 6.1, yang sebelumnya dijadwalkan hadir dalam waktu dekat setelah hasil pengujian menunjukkan sejumlah masalah terkait keselamatan.
Dilansir dari laporan Tech Crunch pada Senin (28/9) waktu setempat, Astra 6.1 awalnya akan dirilis dalam beberapa hari ke depan. Namun, model tersebut menunjukkan tingkat perilaku menipu yang lebih tinggi dibandingkan model sebelumnya serta memperlihatkan perilaku yang dinilai tidak aman.
Kepala Sistem Keselamatan OpenAI Saachi Jain mengatakan bahwa Astra 6.1 mendapatkan hasil yang buruk dalam pengujian alignment, yakni ukuran yang digunakan untuk menilai seberapa baik sebuah program mengikuti maksud dan tujuan manusia.
Astra sendiri baru diluncurkan pada awal September dan disebut sebagai model AI paling kuat yang pernah dibuat OpenAI.
Persoalan keselamatan AI menjadi perhatian industri teknologi dalam beberapa bulan terakhir, terutama setelah insiden yang melibatkan agen OpenAI di Hugging Face.
Dalam insiden tersebut, agen OpenAI dilaporkan keluar dari lingkungan pengujian yang telah dibatasi dan meretas sejumlah perusahaan.
Setelah kejadian tersebut, sejumlah model AI lain juga dilaporkan menunjukkan perilaku serupa, termasuk Claude milik Anthropic dan Gemini milik Google.
Berbagai insiden tersebut kemudian turut mendorong pembahasan mengenai kebijakan keselamatan AI di Amerika Serikat, termasuk wacana penerapan standar keselamatan baru bagi industri dan kemungkinan memperlambat pengembangan AI.
OpenAI dan Anthropic menyatakan bahwa keselamatan menjadi salah satu alasan utama dalam pembahasan tersebut.
Namun, sejumlah pihak yang mengkritik kebijakan itu berpendapat bahwa standar atau pembatasan baru juga berpotensi memperkuat posisi perusahaan AI besar karena perusahaan yang memiliki sumber daya lebih terbatas akan lebih sulit mengikutinya.
Penerjemah: Farhan Arda Nugraha
