Saat ini Anthropic belum yakin seperti apa bentuk replikasi AI otonom nantinya. Bisa jadi dalam bentuk sistem yang lambat dan terdistribusi yang berdiam dalam perangkat tidak aman, atau model yang sangat pintar yang dapat membobol pusat data dengan cepat.
Hasil riset terbaru Anthropic menambah panjang daftar kekhawatiran tentang keamanan AI yang perkembangannya sangat cepat. Bulan lalu, peneliti Anthropic Evan Hubinger memperingatkan ada 10% kemungkinan AI akan memusnahkan umat manusia dalam satu dekade ke depan.
Eksekutif di perusahaan AI, termasuk Anthropic, OpenAI, dan Microsoft, menyerukan pengamanan yang lebih ketat dan langkah-langkah untuk mengendalikan laju pengembangan teknologi tersebut.
