Para pembuat kebijakan di AS telah mengkritik perusahaan-perusahaan AI terkait berbagai risiko yang ada. Sementara Anthropic, menerbitkan laporan intelijen ancaman yang merinci bagaimana pihak kriminal, kelompok yang didukung negara, penyedia perangkat lunak pengintai (spyware), ilmuwan, serta penyebar propaganda berupaya memanfaatkan model AI mereka yang canggih untuk merancang rudal dan bom, menciptakan patogen mematikan, hingga memata-matai kelompok oposisi.
Dario Amodei (CEO Anthropic), Sam Altman (pimpinan OpenAI, perusahaan pembuat ChatGPT), dan Elon Musk telah menyerukan agar pengembangan teknologi ini diperlambat.
Kendati demikian, Presiden Amerika Serikat Donald Trump menepis kekhawatiran mengenai pengembangan AI. Trump menyebutnya sebagai 'hoaks' dan 'konspirasi', seraya menambahkan bahwa perlambatan pengembangan dapat memberikan keunggulan bagi China.
Kabat terbaru, Scott Bessent Menteri Keuangan AS menyatakan bahwa AS dan China telah sepakat untuk membentuk mekanisme dialog AI guna saling memberi peringatan dan membantu memitigasi potensi bahaya teknologi AI.
