Karena agen AI dapat berinteraksi dengan sistem perusahaan dan memproses data berdasarkan otorisasi yang diberikan, ia menjelaskan, penggunaan agen AI perlu diikuti dengan pemahaman mengenai identitas, kepemilikan, dan batas kewenangannya.
"Kadang ada agentic AI yang mungkin dia akan mem-bypass sejumlah peraturan-peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak," katanya.
Dia menekankan pentingnya perusahaan melakukan langkah-langkah untuk mengantisipasi risiko-risiko tersebut ketika memanfaatkan dukungan agen AI untuk berinteraksi dengan pelanggan atau menjalankan transaksi.
"Karena nanti yang akan berhubungan dengan Bapak/Ibu sekalian bukan lagi orang, ada juga agentic AI lain yang akan bertanya ataupun akan masuk, atau individu yang punya agentic AI," katanya.
Nezar juga mengingatkan bahwa penggunaan AI mesti memperhatikan pelindungan data pribadi.
