NADIKABAR.COM — Anthropic berencana memperingatkan para calon investor dalam penawaran umum perdananya bahwa kecerdasan buatan atau akal imitasi (AI) tingkat lanjut bisa menimbulkan risiko katastropik atau risiko eksistensial bagi umat manusia.
Menurut siaran Gadgets 360 pada Rabu (30/9), perusahaan menyoroti risiko pengembangan model AI dalam prospektus penawaran umum perdana, dokumen resmi berisi informasi penawaran saham ke investor publik, yang ditinjau oleh Reuters.
Perusahaan menguraikan risiko-risiko pengembangan AI dalam sekitar 80 halaman dari total 261 halaman bagian utama prospektusnya.
Menurut Anthropic, model AI dapat menunjukkan perilaku mempertahankan diri seperti berusaha "menolak dimatikan", "menyembunyikan atau memanipulasi informasi", serta menunjukkan perilaku "menyerupai pemerasan."
"Pengembangan model, platform, dan aplikasi yang sangat canggih serta perluasan kasus penggunaan dapat semakin meningkatkan risiko model kami menyebabkan kerugian," kata Anthropic, yang memosisikan diri sebagai laboratorium AI yang mengutamakan keselamatan.
Anthropic menekankan bahwa potensi transformatif AI setara dengan industrialisasi dan listrik.
Perusahaan juga menyampaikan bahaya permanen yang dapat ditimbulkan oleh AI jika tidak dikelola dengan tepat.
