NADIKABAR.COM — Video, gambar, dan suara hasil kecerdasan artifisial (AI) semakin sulit dibedakan dari konten asli. Untuk mengantisipasi penipuan dan manipulasi informasi, Kementerian Komunikasi dan Digital (Komdigi) tengah mengkaji aturan pelabelan konten AI yang dapat membantu masyarakat mengenali keaslian materi digital.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengatakan, kemampuan AI menghasilkan konten sintetis yang realistis membuat batas antara fakta dan rekayasa digital semakin tipis. Kondisi ini meningkatkan risiko penyalahgunaan teknologi, termasuk untuk menipu korban melalui video maupun suara palsu.

"Perkembangan ini sangat cepat untuk makin membuat garis pemisah antara fakta, antara realita dengan sesuatu yang sintetik makin lama makin tipis," ujar Nezar dikutip dari pernyataan tertulis, Rabu (21/10).

Nezar menjelaskan bahwa salah satu langkah yang tengah dikaji pemerintah adalah mewajibkan pengembang AI memberikan label pada konten digital yang dihasilkan teknologinya. Penanda tersebut diharapkan membantu pengguna membedakan konten sintetis dari materi autentik.

"Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang otentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan," tegasnya.

Risiko penyalahgunaan AI bukan sekadar persoalan video viral atau informasi palsu di media sosial. Teknologi ini juga dapat dimanfaatkan untuk menyamar sebagai orang lain dan mengelabui korban agar melakukan transaksi keuangan.

Nezar mencontohkan kasus penipuan melalui pertemuan virtual di Hong Kong sekitar dua tahun lalu yang menyebabkan sebuah perusahaan merugi USD 25 juta. Seorang staf keuangan melakukan 15 kali transfer setelah mengikuti pertemuan daring yang menampilkan jajaran pimpinan perusahaan. Namun, peserta lain dalam pertemuan tersebut ternyata merupakan hasil rekayasa digital.

"Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu," ungkap Nezar.

Kasus tersebut menunjukkan konten palsu berbasis AI berpotensi digunakan untuk penipuan yang lebih terstruktur. Karena itu, kemampuan mengenali konten sintetis perlu didukung mekanisme autentikasi yang dapat menelusuri asal-usul materi digital.

Nezar mengatakan perusahaan teknologi global mulai mengembangkan pendekatan *authentication* dan *provenance*, yakni mekanisme untuk memverifikasi keaslian serta menelusuri asal-usul konten melalui informasi metadata.

Pendekatan ini menjadi salah satu perhatian dalam pembahasan kebijakan pelabelan AI, sehingga informasi mengenai asal-usul konten dapat membantu pengguna menilai materi digital yang mereka terima.

Selain mengkaji aturan pelabelan, pemerintah tengah menyusun Peta Jalan Nasional Kecerdasan Artifisial untuk periode 2026-2029. Menurut Nezar, penyusunannya melibatkan lebih dari 400 lembaga, komunitas, kementerian, dan unsur industri. Peta jalan tersebut disiapkan sebagai salah satu langkah pengamanan dalam pengembangan dan pemanfaatan AI di Indonesia.

Wamenkomdigi menekankan penguatan regulasi harus berjalan beriringan dengan peningkatan kemampuan masyarakat dalam menggunakan teknologi secara kritis dan bertanggung jawab.

"AI harus didudukkan sebagai alat, sebagai mitra kerja bukan pengganti nalar dan tanggung jawab manusia," katanya.

Di tengah teknologi yang semakin mampu meniru wajah, suara, dan perilaku manusia, Nezar mengingatkan bahwa kredibilitas informasi menjadi semakin penting, terutama bagi praktisi komunikasi publik.

"Di era ketika ucapan bisa dipalsukan mesin, kredibilitas ucapan menjadi aset paling langka," pungkasnya.