Thomas Larsen, peneliti di AI Futures Project mengatakan masuk akal jika sistem AI supercerdas bisa meyakinkan manusia untuk membantu mengembangkan virus mematikan. "Saat ini sudah banyak manusia berdiskusi dengan AI terkait eksperimen spesifik apa yang harus mereka jalankan di laboratorium," ujar Larsen.
"Sangat mudah bagi saya membayangkan AI yang saat ini sudah dirilis, seandainya ia jauh lebih pintar, lebih strategis, dan berniat melakukannya, bisa saja menipu manusia agar menciptakan dan menyebarkan virus tersebut," cetusnya.
Di sisi lain, Soares berpendapat bahwa daripada pion manusia, program AI yang mampu mengembangkan diri sendiri mungkin akan menyintesis bentuk kehidupan sendiri di laboratorium biologi otonom.
Namun, mengembangkan virus yang mampu memusnahkan umat manusia tentu lebih dari sekadar meminta AI merancang sesuatu yang mematikan. Kalaupun risetnya dilakukan dengan benar, proses produksi dan penyebarannya akan sangat rumit.
Selain itu, untuk mengambil alih laboratorium atau merakit peralatan fisik, sistem AI harus mengatasi berbagai rintangan di dunia nyata terkait pembuatan senjata biologis atau kimia.
Bagaimana dengan robot pembunuh? Soares memandang ambisi Elon Musk membangun pasukan robot otonom yang mampu mereplikasi dirinya sendiri sebagai celah potensial.
"Begitu Anda menciptakan robot yang mampu membangun infrastruktur energi serta pabrik untuk memproduksi lebih banyak robot, dalam artian tertentu, itu adalah bentuk kehidupan mekanis yang baru," jelasnya.
