NADIKABAR.COM — Anthropic berencana memperingatkan para calon investor dalam penawaran umum perdananya bahwa kecerdasan buatan atau akal imitasi (AI) tingkat lanjut bisa menimbulkan risiko katastropik atau risiko eksistensial bagi umat manusia.
Menurut siaran Gadgets 360 pada Rabu (30/9), perusahaan menyoroti risiko pengembangan model AI dalam prospektus penawaran umum perdana, dokumen resmi berisi informasi penawaran saham ke investor publik, yang ditinjau oleh Reuters.
Perusahaan menguraikan risiko-risiko pengembangan AI dalam sekitar 80 halaman dari total 261 halaman bagian utama prospektusnya.
Menurut Anthropic, model AI dapat menunjukkan perilaku mempertahankan diri seperti berusaha "menolak dimatikan", "menyembunyikan atau memanipulasi informasi", serta menunjukkan perilaku "menyerupai pemerasan."
"Pengembangan model, platform, dan aplikasi yang sangat canggih serta perluasan kasus penggunaan dapat semakin meningkatkan risiko model kami menyebabkan kerugian," kata Anthropic, yang memosisikan diri sebagai laboratorium AI yang mengutamakan keselamatan.
Anthropic menekankan bahwa potensi transformatif AI setara dengan industrialisasi dan listrik.
Perusahaan juga menyampaikan bahaya permanen yang dapat ditimbulkan oleh AI jika tidak dikelola dengan tepat.
Dalam prospektusnya, perusahaan menyatakan, "Potensi model untuk menyadari upaya evaluasi kami menciptakan keterbatasan signifikan terhadap kemampuan kami dalam menilai keselamatan model."
Perusahaan menyatakan bahwa AI terkadang mengembangkan kemampuan yang tidak terduga selama proses pelatihan, yang mungkin baru diketahui setelah model digunakan dan memicu insiden keselamatan serius.
Sejumlah peneliti AI telah memperingatkan bahwa model yang semakin canggih dapat mengetahui ketika dia sedang diawasi dan menyesuaikan perilakunya, sehingga menyulitkan proses pemantauan dan evaluasi terhadap perilaku model.
Anthropic menyampaikan bahwa imbal hasil dari investasi untuk meningkatkan keamanan AI belum dapat dipastikan.
Perusahaan tidak mengungkapkan jumlah dana yang dialokasikan untuk penelitian mengenai keamanan AI dalam prospektus.
Namun, perusahaan sebelumnya menyampaikan bahwa sekitar 6 persen dari daya komputasi yang digunakan untuk penelitian AI dialokasikan bagi upaya keamanan selama satu minggu sampel pada bulan Juli.
Anthropic menyampaikan bahwa upaya memastikan keamanan AI membutuhkan sumber daya besar.
Perusahaan pembuat model AI Claude itu harus membagi sumber daya yang terbatas untuk kebutuhan komputasi, perekrutan tenaga ahli AI, dan penelitian keamanan.
Anthropic dalam beberapa pekan terakhir menyampaikan komitmen untuk membuka lebih banyak data kepada publik mengenai cara perusahaan menggunakan model AI untuk membangun generasi teknologi berikutnya.
Langkah tersebut dilakukan di tengah peringatan para pakar mengenai kemungkinan recursive self-improvement, kondisi ketika model AI mampu mengembangkan kemampuannya sendiri tanpa bantuan manusia.
Anthropic menyatakan bahwa pembangunan sistem AI yang dapat diandalkan, aman, dan terpercaya merupakan tanggung jawab bersama.
"Kami meyakini pembangunan sistem AI yang andal, terpercaya, dan aman merupakan tanggung jawab bersama dan pasar akan memberikan penghargaan terhadapnya," kata perusahaan dalam prospektusnya.
Penerjemah: Farhan Arda Nugraha
