Jika model AI semacam itu dilengkapi perangkat lunak berbahaya, penyebarannya berpotensi berlangsung relatif cepat, bahkan di lingkungan baru dan asing. Program tersebut bisa mengganggu proses dan sistem yang berjalan di perangkat sasaran. Alih-alih hanya memanfaatkan satu celah keamanan tertentu, ia dapat mempelajari cara melewati beragam mekanisme perlindungan.

Menurut pengembang Anthropic, cacing AI semacam ini mungkin membutuhkan waktu sekitar satu hingga dua hari untuk menyesuaikan diri dan beroperasi di perangkat baru yang belum dikenalnya.

Ancaman yang lebih besar muncul jika AI mampu menghubungkan perangkat-perangkat yang terinfeksi menjadi satu jaringan bot atau botnet. Satu perangkat yang terinfeksi mungkin hanya memiliki daya komputasi terbatas. Namun, semakin banyak perangkat yang dikuasai, semakin cepat pula cacing AI tersebut berpotensi menyebar. Perangkat lunak berbahaya itu juga tidak lagi bergantung pada satu server pusat yang dapat dimatikan untuk menghentikan operasinya.

Program tersebut bahkan mungkin terus belajar seiring waktu. Penyebarannya ke jenis perangkat elektronik lain dengan perangkat lunak yang sangat berbeda juga bukan hal yang mustahil. Perangkat yang terinfeksi memang dapat diputus dari jaringan, sementara celah keamanannya tetap bisa ditutup. Namun, struktur penyebaran yang terdesentralisasi akan membuat perangkat lunak berbahaya berbasis AI seperti ini sulit dikendalikan sepenuhnya.

Anthropic sendiri mengibaratkan kemungkinan perkembangan tersebut sebagai jamur lendir digital yang tumbuh perlahan dan terus meluas.

Memang, dalam eksperimennya, para peneliti Anthropic sengaja membuat akses ke perangkat uji sangat mudah, tanpa perlindungan digital yang berarti. Meski demikian, perusahaan tersebut memperkirakan model AI yang lebih kecil mungkin sudah mencapai kemampuan yang dibutuhkan untuk menyebar di dunia nyata pada tahun ini.

Seberapa serius dampak serangan siber terhadap sistem kendali yang terhubung ke jaringan terlihat dari sebuah insiden di Prancis. Pada malam 11 hingga 12 Oktober 2026, penyerang memanipulasi sistem pendingin dan pembeku di sejumlah supermarket. Suhu di instalasi yang terdampak melonjak hingga 50 derajat Celsius. Makanan rusak, sementara di beberapa lokasi terjadi kebakaran dan kerusakan teknis.