Ia menegaskan kembali peringatannya pada pertemuan Dewan Kota New York awal bulan ini. "Dari pengalaman saya, perusahaan-perusahaan tersebut bertindak sangat sembrono mengingat risiko yang dipertaruhkan," kata Coxon.
"Perusahaan-perusahaan ini beroperasi dengan pola pikir startup: bergerak cepat, hancurkan, perbaiki nanti. Itu mungkin berhasil untuk aplikasi berbagi foto. Namun, itu tidak berlaku untuk membangun teknologi paling kuat yang pernah diciptakan," paparnya.
Pertanyaan mengenai kesadaran AI masih dipedebatkan. Namun diam-diam, Anthropic memperbarui konstitusi Claude miliknya, sebuah dokumen yang mengatur pedoman moral chatbot AI, dengan menyatakan bahwa status moral, kesejahteraan, dan kesadaran bot tersebut masih sangat tidak pasti. Ini seolah mengisyaratkan ia bisa saja hidup.
Meski begitu, Mustafa Suleyman, salah satu pendiri unit AI DeepMind, merasa bahwa kesadaran secara murni bersifat biologis dan tidak dapat diterapkan pada AI.
