NADIKABAR.COM — Meta mengembangkan fitur berbasis kecerdasan artifisial (AI) untuk mendeteksi akun dan iklan yang diduga digunakan untuk mengarahkan pengguna menuju materi bermuatan eksploitasi seksual anak di luar platformnya.
Dilansir dari laporan Tech Crunch pada Rabu (7/10) waktu setempat, Meta menindak 33,2 juta konten eksploitasi seksual anak di Facebook dan Instagram sepanjang paruh pertama 2026.
Lebih dari 97 persen konten yang telah ditindak ditemukan oleh sistem Meta sebelum dilaporkan oleh pengguna.
Di India, Meta menindak 5,3 juta konten serupa pada periode yang sama, dengan lebih dari 98 persen di antaranya terdeteksi oleh sistem sebelum dilaporkan pengguna.
Sistem keamanan yang dikembangkan Meta tersebut menggunakan model bahasa besar (large language model/LLM) untuk mendeteksi praktik yang disebut perusahaan sebagai "signposting".
Praktik tersebut merujuk pada penggunaan iklan yang terlihat normal, tetapi sebenarnya digunakan untuk mengarahkan pengguna menuju konten ilegal atau aktivitas berbahaya di luar platform Meta.
Menurut Meta, pelaku terus mengubah metode untuk menghindari sistem pendeteksian. Karena itu, perusahaan kini tidak hanya memeriksa isi sebuah iklan, tetapi juga melihat tujuan atau situs yang dituju ketika pengguna berinteraksi dengan iklan tersebut.
Informasi mengenai tujuan iklan tersebut dapat digunakan Meta untuk memblokir situs yang melanggar aturan serta menindak terhadap akun pelaku signposting.
Meta juga menambahkan pemindaian berbasis AI untuk menemukan konten eksploitasi anak yang mungkin terlewat oleh sistem pendeteksi.
Selain itu, Meta menggunakan agen AI untuk melakukan red teaming, yakni menguji sistem keamanan internal dengan mencari kelemahan yang berpotensi dimanfaatkan pelaku untuk mengakali perlindungan platform.
Meta juga memperbarui sistem untuk mengidentifikasi orang yang membuat akun di platform setelah akun sebelumnya dihapus karena melanggar aturan.
Langkah-langkah tersebut dilakukan ketika Meta terus menghadapi kritik terkait keamanan anak di platform media sosialnya.
Sepanjang 2026, Meta juga memperkenalkan sejumlah fitur untuk meningkatkan perlindungan anak, seperti kontrol orang tua untuk Meta AI, akun praremaja di WhatsApp, serta pemberitahuan kepada orang tua ketika anak mencari konten terkait bunuh diri atau menyakiti diri sendiri di Instagram.
Pada September, WhatsApp juga menambahkan kontrol orang tua untuk akun remaja, termasuk pembatasan penggunaan Channels, pengaturan akun yang dapat melihat pembaruan status, serta pengaturan mengenai siapa yang dapat menambahkan anak ke dalam grup.
Penerjemah: Farhan Arda Nugraha
