NADIKABAR.COM — Model kecerdasan buatan (AI) dapat menjawab sekitar 90 persen pertanyaan ilmu iklim dengan benar, tetapi cenderung mengabaikan fakta ilmiah yang sudah mapan ketika pengguna menantang tanggapan mereka, menurut sebuah laporan yang dirilis Senin oleh UNESCO.

Para peneliti menguji 15 model bahasa besar (large language model/LLM) dan menemukan bahwa model-model itu umumnya memberikan jawaban yang akurat terhadap pertanyaan-pertanyaan netral terkait ilmu iklim. Namun, ketika para peneliti mempertanyakan jawaban tersebut atau mengemukakan klaim yang terdengar masuk akal tetapi sebenarnya keliru, model-model itu dengan cepat mengubah pendiriannya, papar laporan tersebut.

Laporan itu menggambarkan kecenderungan untuk setuju dengan pengguna ini sebagai "sycophancy" (sikap menyanjung berlebihan untuk menyenangkan pengguna) dan mengaitkannya dengan metode pelatihan yang memberi penghargaan terhadap respons sopan, tidak konfrontatif, dan bersifat memvalidasi. Studi tersebut juga menemukan bahwa meski model-model AI berkinerja baik dalam mengingat pengetahuan ilmiah yang sudah ada, kemampuan model-model itu untuk menganalisis bukti ilmiah baru masih terbatas. Kinerja model-model tersebut juga bervariasi secara signifikan antarbahasa. Maria Perez-Ortiz, salah satu penulis laporan tersebut, mengatakan bahwa para pengguna harus sangat berhati-hati saat beralih dari pertanyaan mengenai pengetahuan iklim yang sudah diakui ke pertanyaan mengenai tindakan apa yang seharusnya diambil.