Sejumlah pemimpin perusahaan teknologi global menyuarakan perlunya memperlambat pengembangan AI karena risiko teknologi tersebut dinilai semakin meningkat.
Gagasan perlambatan AI muncul karena adanya kekhawatiran terhadap ancaman keamanan digital serta risiko eksistensial yang dapat ditimbulkan terhadap peradaban manusia.
Perkembangan model AI yang semakin canggih dinilai berpotensi disalahgunakan untuk membuat senjata siber secara otomatis, menyebarkan disinformasi dalam skala besar, hingga membantu perakitan bahan berbahaya.
Selain potensi penyalahgunaan oleh manusia, kekhawatiran juga muncul terkait keselarasan tujuan AI. Sistem AI yang sangat canggih dan tidak selaras dengan nilai-nilai moral manusia dikhawatirkan dapat bertindak di luar kendali pengembangnya.
