ChatGPT juga dituduh merusak kemampuan berpikir kritis, mendorong paranoia dan delusi, memberikan nasihat medis yang berbahaya, dan mempromosikan perilaku dan hubungan yang tidak sehat.
Mereka menunjuk pada sejumlah kasus di mana ChatGPT diduga berperan dalam kematian pengguna remaja akibat bunuh diri, serta pemberian informasi tidak tepat sehingga menyebabkan pengguna overdosis. Insiden-insiden tersebut sudah memicu gugatan hukum terpisah terhadap OpenAI.
Selain itu, delapan negara bagian AS menuduh OpenAI mengumpulkan data dari pengguna di bawah umur dan tindakannya tidak cukup untuk mencegah pengguna menggunakan ChatGPT. Gugatan itu juga merujuk pada insiden peretasan oleh agen AI yang disebut sebagai bukti kecerobohan OpenAI.
Dalam pernyataan resminya, juru bicara OpenAI Drew Pusateri mengatakan pihaknya sudah mengembangkan perlindungan khusus usia yang terdepan di industri di dalam sistem ChatGPT.
