NADIKABAR.COM — Anthropic mengatakan model AI kecil dapat mengembangkan kemampuan untuk mereplikasi diri dan menyebar di jaringan perangkat smart home yang terhubung ke internet. Ini merupakan peringatan terbaru dari Anthropic tentang potensi risiko keamanan AI.
Antropic menjelaskan model AI berpotensi menyusupi perangkat yang terhubung dengan internet, seperti oven pintar atau Android TV, dan menggunakan daya komputasinya untuk menjalankan model dan menyebarkannya ke perangkat lain tanpa perlu bergantung pada pusat data.
Dalam postingan blognya, Anthropic mengatakan model AI yang sudah menyebar akan sulit untuk dimatikan karena tidak ada titik pusat yang bisa dinonaktifkan.
Anthropic mengakui saat ini belum ada model replika yang sepenuhnya liar. Namun, menurut Anthropic saat ini agen-agen AI semakin pintar dalam menyelesaikan langkah-langkah dalam proses replikasi dan menyalin diri sendiri di masa depan.
