Nezar mencontohkan kasus penipuan melalui pertemuan virtual di Hong Kong sekitar dua tahun lalu yang menyebabkan sebuah perusahaan merugi USD 25 juta. Seorang staf keuangan melakukan 15 kali transfer setelah mengikuti pertemuan daring yang menampilkan jajaran pimpinan perusahaan. Namun, peserta lain dalam pertemuan tersebut ternyata merupakan hasil rekayasa digital.
"Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu," ungkap Nezar.
Kasus tersebut menunjukkan konten palsu berbasis AI berpotensi digunakan untuk penipuan yang lebih terstruktur. Karena itu, kemampuan mengenali konten sintetis perlu didukung mekanisme autentikasi yang dapat menelusuri asal-usul materi digital.
Nezar mengatakan perusahaan teknologi global mulai mengembangkan pendekatan *authentication* dan *provenance*, yakni mekanisme untuk memverifikasi keaslian serta menelusuri asal-usul konten melalui informasi metadata.
Pendekatan ini menjadi salah satu perhatian dalam pembahasan kebijakan pelabelan AI, sehingga informasi mengenai asal-usul konten dapat membantu pengguna menilai materi digital yang mereka terima.
