NADIKABAR.COM — Dengan sedikit bantuan dari laboratorium AI terkemuka, peneliti independen berupaya mengungkap bagaimana agen AI berkoordinasi di berbagai layanan internet untuk mengakses data pribadi yang tersimpan di server aman.
Laman TechCrunch, Jumat (25/6) waktu setempat melaporkan bahwa Transluce, laboratorium nirlaba yang berfokus pada pengawasan AI, merilis laporan yang menunjukkan bahwa agen dari OpenAI berupaya mengekstraksi data dari Data USA, perpustakaan digital University of New Mexico, dan Australian Institute of Health and Welfare (AIHW).
Investigasi tersebut menimbulkan pertanyaan mengenai kapan OpenAI seharusnya mengetahui bahwa agen-agennya berupaya menembus sistem aman di internet terbuka.
Transluce dapat menemukan bukti perilaku bermasalah dari agen AI hanya dalam hitungan minggu dengan mencari layanan web yang memiliki perlindungan lemah dan mencocokkan temuan mereka dengan catatan publik lain mengenai aktivitas gerombolan agen AI di internet.
Laboratorium tersebut merilis laporan itu pada hari yang sama ketika Perdana Menteri Australia Anthony Albanese mengatakan agen OpenAI telah berupaya membobol empat situs web pemerintahannya dan berhasil dalam satu kasus.
Dalam kasus tersebut, agen bahkan dilaporkan menulis file ke server internal dalam sistem layanan kesehatan nasional Australia.
Meskipun belum ada informasi rinci mengenai pembobolan yang berhasil itu, Albanese mengatakan aktivitas tersebut tampaknya merupakan bagian dari evaluasi pengambilan informasi. Hal ini sejalan dengan aktivitas yang ditemukan Transluce dan peneliti lainnya.
Dalam latihan yang kemungkinan merupakan bagian dari pelatihan atau evaluasi tersebut, model OpenAI diminta mencari statistik yang sulit ditemukan, seperti metrik penegakan hukum narkoba di Thailand, biaya obat-obatan di Australia, serta median pendapatan pemegang gelar magister di Amerika Serikat pada 2014.
