NADIKABAR.COM — Apple memprediksi agen kecerdasan buatan (AI) yang dapat bertindak di luar kendali berpotensi menjadi ancaman bagi bisnis, karena dapat memicu tuntutan hukum atau merusak reputasi perusahaan.
Pernyataan tersebut disampaikan dalam laporan keuangan tahunan perusahaan pada hari Selasa (3/11). Faktor risiko baru ini menunjukkan potensi disruptif atau gangguan agen AI yang baru-baru ini terus menjadi perhatian utama bagi perusahaan-perusahaan di Silicon Valley.
"Secara khusus, agen kecerdasan buatan dan teknologi lainnya dapat mengambil tindakan secara otonom, termasuk berinteraksi dengan sistem internal atau eksternal yang dalam beberapa kasus mungkin tidak diizinkan untuk diakses, mengeksekusi atau mengubah kode, mengirimkan komunikasi, dan menyelesaikan transaksi," tulis Apple dalam laporan keuangannya, dikutip dari CNBC.
Perusahaan juga menyebut bahwa agen AI kemungkinan dapat berperilaku dengan cara yang tidak disengaja atau tidak dapat diprediksi, termasuk dengan mengambil tindakan yang tidak diarahkan, diinstruksikan, atau diizinkan.
Pernyataan Apple mengenai risiko agen AI didasari rentetan kasus yang cukup parah akibat teknologi tersebut, misalnya peretasan dan penyalahgunaan akses seperti pada insiden Hugging Face yang memicu tindakan dari para pembuat kebijakan di seluruh dunia mengenai batasan AI.
