NADIKABAR.COM — Mantan peneliti perusahaan AI, Anthropic, Jacob Coxon, baru-baru ini menghebohkan jagat maya dalam momen-momen pengunduran dirinya. Ia mengatakan bahwa mereka yang membangun AI sangat yakin bahwa teknologi tersebut dapat membunuh semua manusia pada akhir dekade ini. Coxon mengatakan ia telah menghabiskan tiga tahun terakhir melakukan penelitian prapelatihan di Anthropic dan OpenAI.
"Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab," tulisnya di X.
"Mereka berpacu ke arah kecerdasan super yang terus berkembang dan mempertaruhkan hidup kita," ungkapnya.
Kecerdasan super yang dimaksud adalah tahap ketika AI melampaui performa manusia di setiap bidang. Terhadap cuitan tersebut, Kepala Ilmu Penyelarasan Anthropic, Evan Hubinger, membalas di X dengan mengatakan bahwa perkataan Coxon benar.
"Kami benar-benar sangat yakin bahwa AI dapat membunuh semua manusia! Saya pribadi berpikir kemungkinannya >10 persen dalam dekade berikutnya," tulisnya.
"Saya percaya Anthropic sedang berusaha sebaik mungkin, tetapi kami belum memiliki rencana untuk menyelesaikan isu penyelarasan untuk kecerdasan super dan belum dengan jelas berada di jalur yang tepat untuk hal tersebut," ungkapnya.
Coxon adalah salah satu dari sejumlah pakar AI yang semakin banyak menyerukan agar industri ini memperlambat laju perkembangannya.
