"Jangan sampai jawaban mesin yang belum tentu benar justru membentuk opini publik dan menimbulkan tuduhan serius. Meta harus bertanggung jawab terhadap produk teknologinya, sementara masyarakat perlu memeriksa informasi melalui sumber yang dapat diverifikasi dan menjalankan kaidah jurnalistik," katanya.
Kondisi halusinasi AI pada layanan Meta sebelumnya juga pernah terjadi di negara asalnya yaitu AS. Salah satu contoh kasusnya ialah terkait dengan kesalahan penangguhan akun Instagram No Kings Coalition, kelompok yang berkaitan dengan demonstrasi menentang pemerintahan Presiden Donald Trump.
Wakil Presiden Meta Andy Stone bahkan dengan segera menyampaikan permintaan maaf atas kekeliruan tersebut. Meta mengakui akun itu seharusnya tidak ditangguhkan dan kemudian memulihkannya, meskipun pemulihan akses membutuhkan waktu lama.
Bagi Kunto, peristiwa tersebut menunjukkan bahwa keputusan sistem otomatis Meta tidak selalu akurat dan dapat berdampak langsung terhadap persepsi publik dan kebebasan berekspresi masyarakat.
Meski penyebabnya belum tentu sama, pengalaman di AS menjadi alasan untuk menuntut keterbukaan Meta atas dugaan pembatasan konten di Indonesia.
"Di Amerika Serikat, Meta sendiri sudah mengakui bahwa sistemnya bisa salah sampai menyebabkan akun yang seharusnya tidak diblokir justru kehilangan akses. Artinya, kita tidak bisa begitu saja menganggap seluruh keputusan moderasi Meta selalu benar. Perusahaan harus mampu menjelaskan dan mempertanggungjawabkan keputusan sistemnya," ujar Kunto.
Terkait dugaan penghapusan konten karhutla di Indonesia, Kunto mempertanyakan apakah sistem moderasi otomatis Meta memiliki kemampuan yang memadai untuk memahami konteks gambar dan video yang diunggah masyarakat.
Ia mencontohkan dokumentasi kebakaran hutan yang menampilkan api, asap, kerumunan warga, ataupun petugas di lapangan. Menurut dia, perlu diperiksa apakah sistem moderasi Meta berpotensi salah mengklasifikasikan visual tersebut sebagai konten kekerasan, kerusuhan, atau pelanggaran pedoman komunitas.
"Apakah gambar api dan asap dalam peristiwa karhutla bisa keliru dibaca oleh mesin sebagai konten kerusuhan atau riot? Apakah ada kesalahan klasifikasi seperti yang pernah terjadi dalam moderasi akun di Amerika Serikat? Kita belum tahu. Justru Meta yang harus menjelaskan bagaimana sistemnya bekerja dan mengapa konten tersebut dibatasi," katanya.
Menurut Kunto, dokumentasi karhutla memiliki kepentingan publik yang besar. Informasi mengenai lokasi kebakaran, penyebaran asap, dan dampaknya terhadap masyarakat diperlukan untuk meningkatkan kewaspadaan sekaligus membantu penanganan bencana.
