Setelah menemukan kejadian tersebut, Anthropic menghentikan proses pengujian terkait dan menambahkan mekanisme pengamanan untuk mencegah kejadian serupa.
Insiden ini melibatkan teknologi yang dikenal sebagai AI agent, yakni sistem kecerdasan buatan yang dapat menjalankan sejumlah tindakan melalui perangkat lunak atau situs web.
Berbeda dari chatbot yang hanya menghasilkan respons berupa teks, AI agent dapat melakukan tindakan seperti membuka halaman internet dan mengirimkan informasi melalui formulir daring.
Hingga laporan tersebut dipublikasikan, tidak ada indikasi bahwa informasi palsu yang dikirim AI Anthropic telah memengaruhi penyelidikan kepolisian Philadelphia.
