Pengungkapan Apple ini muncul setelah beberapa insiden yang melibatkan agen AI nakal yang keluar dari sistem isolasi untuk meretas situs pihak ketiga, seperti insiden Hugging Face.
Secara terpisah, kemampuan agen-agen ini dalam mengoperasikan komputer layaknya manusia memaksa perusahaan besar seperti Amazon dan JPMorgan Chase untuk merumuskan kebijakan seputar akses agen ke berbagai layanan, demi alasan strategis maupun keamanan.
"Kemampuan Perusahaan dalam mengawasi dan mengendalikan agen kecerdasan buatan pihak ketiga serta teknologi lainnya mungkin saja terbatas," sebut Apple dalam dokumennya.
Apple saat ini belum memiliki AI berbasis agen. Namun ketika CEO baru John Ternus ditanya mengenai agen AI, ia mengatakan bahwa perusahaan memiliki ruang yang nyata untuk memperluas kemampuan Siri.
"Mengenai kemampuan berbasis agen, kami rasa ini adalah alat menjanjikan bagi pengguna. Kami hanya ingin memastikan pengguna menyadari apa saja yang mereka beri akses. Kami ingin memastikan hal ini dilakukan dengan cara yang melindungi keamanan dan privasi," katanya.
