Ia menilai perusahaan pengembang AI paling canggih perlu memperlambat pengembangan teknologi agar para ilmuwan komputer memiliki waktu untuk menemukan metode yang lebih baik dalam mengendalikan sistem tersebut.
"Posisi saya adalah mungkin kita membutuhkan semacam perlambatan dalam pengembangan AI terdepan," ujarnya.
Beberapa hari setelah Coxon mengundurkan diri dan menyampaikan kekhawatirannya, sejumlah pimpinan perusahaan teknologi, termasuk CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan Elon Musk dari SpaceXAI, menyatakan sepakat bahwa pengembangan AI perlu diperlambat.
Namun, upaya memperlambat pengembangan AI secara terkoordinasi di antara perusahaan teknologi menghadapi sejumlah kendala.
Dalam sidang yang sama, perwakilan perusahaan teknologi, termasuk OpenAI, Anthropic, Google, dan Meta, menyampaikan pandangan berbeda. Mereka mengatakan teknologi AI telah memberikan manfaat bagi kehidupan masyarakat dan menegaskan bahwa keselamatan menjadi perhatian utama perusahaan.
Morgan Dwyer dari OpenAI mengatakan perusahaan mendukung pengembangan teknologi yang aman dan manfaatnya dapat dirasakan secara luas.
"Saya memiliki komitmen yang sama dengan Anda untuk memastikan teknologi dikembangkan secara aman dan manfaatnya dibagikan secara luas," kata Dwyer.
Ketika Ketua Dewan Kota New York Julie Menin meminta perwakilan perusahaan mengukur kemungkinan terjadinya bencana akibat AI, Dwyer mengatakan dirinya tidak mengetahui angka pastinya.
"Saya tidak tahu. Namun, menurut saya, apakah kemungkinannya satu persen, 10 persen, atau 20 persen, tidak terlalu penting. Tidak satu pun dari tingkat risiko tersebut dapat diterima," ujarnya.
Ia menambahkan perusahaan seharusnya tidak melatih model AI apabila belum dapat memberikan jaminan kuat bahwa sistem tersebut tetap berada di bawah kendali manusia. Menin mengkritik jawaban tersebut dan menyebutnya sebagai pernyataan yang terkesan meremehkan persoalan.
Dwyer kemudian menegaskan bahwa komitmen terhadap keselamatan lebih penting daripada memperdebatkan persentase risiko. "Yang penting adalah komitmen terhadap keselamatan, dan itulah yang menjadi komitmen OpenAI," katanya.
