NADIKABAR.COM — Sejumlah mantan karyawan perusahaan kecerdasan buatan atau akal imitasi (AI), termasuk OpenAI, Anthropic, dan Google DeepMind, memperingatkan bahwa pengembangan teknologi AI berlangsung terlalu cepat tanpa jaminan keamanan yang memadai. Mereka mendesak pemerintah meningkatkan pengawasan terhadap perusahaan teknologi, menyusul kekhawatiran bahwa sistem AI yang semakin canggih berpotensi berkembang di luar kendali manusia.
Peringatan tersebut disampaikan dalam sidang Dewan Kota New York pada Senin (5/10). Jacob Coxon, mantan insinyur Anthropic yang sebelumnya juga bekerja di OpenAI, mengatakan perusahaan-perusahaan teknologi belum memahami sepenuhnya cara mengendalikan sistem AI yang mereka kembangkan.
"Perusahaan-perusahaan ini bertindak sangat ceroboh jika melihat besarnya risiko yang dipertaruhkan," kata Coxon di hadapan anggota Dewan Kota New York.
Menurut Coxon, perusahaan AI belum memiliki mekanisme yang memadai untuk mencegah sistem mereka mengembangkan tujuan sendiri yang tidak ditetapkan oleh para pengembangnya.
"Kami tidak tahu bagaimana mencegah mereka mengembangkan tujuan sendiri di luar kendali penciptanya. Kami juga belum memiliki perlindungan untuk mencegah mereka bertindak berdasarkan tujuan tersebut," ujarnya.
Coxon memperingatkan bahwa perkembangan AI tanpa pengamanan yang memadai dapat berujung pada hilangnya kendali manusia atas teknologi tersebut.
"Jika melihat jalur perkembangan saat ini, menurut saya kemungkinan umat manusia kehilangan kendali atas AI lebih besar daripada tidak. Hal itu bahkan bisa berakhir dengan kepunahan manusia," katanya.
Coxon sebelumnya menjadi perhatian setelah mengumumkan pengunduran dirinya dari Anthropic pada awal September. Dalam pernyataan yang dipublikasikan melalui platform X, peneliti asal Inggris tersebut mengungkapkan kekhawatirannya terhadap arah pengembangan AI.
Ia mengatakan para pengembang AI sendiri meyakini teknologi tersebut berpotensi "membunuh kita semua pada akhir dekade ini".
Dalam kesaksiannya di hadapan Dewan Kota New York, Coxon juga mengkritik budaya kerja perusahaan teknologi yang mengutamakan kecepatan pengembangan dibandingkan pengujian keamanan.
"Perusahaan-perusahaan ini berjalan dengan pola pikir perusahaan rintisan: bergerak cepat, merusak sesuatu, lalu memperbaikinya belakangan," katanya.
"Pendekatan itu mungkin berhasil untuk aplikasi berbagi foto. Namun, pendekatan tersebut tidak tepat untuk membangun teknologi paling kuat yang pernah dikembangkan manusia," lanjut Coxon.
