Tidak memiliki empati asli dan pemahaman klinis: AI hanya memprediksi rangkaian kata berdasarkan pola data, bukan benar-benar merasakan emosi atau memahami konteks hidup seseorang secara utuh. Untuk kondisi kesehatan mental yang serius seperti depresi berat, trauma, atau kecenderungan menyakiti diri sendiri, saran AI bisa meleset dan tidak dapat menggantikan peran psikolog maupun psikiater.
Risiko privasi dan keamanan data pribadi: Percakapan dengan layanan AI berbasis awan (cloud) berpotensi tersimpan di server penyedia layanan atau digunakan untuk melatih sistem. Mengungkapkan detail identitas sensitif, masalah hukum, atau rahasia pribadi yang terlalu dalam memiliki celah kebocoran privasi.
Menjadikan AI sebagai alat bantu refleksi diri atau tempat meluapkan emosi sesaat adalah hal yang wajar di era digital. Namun, AI sebaiknya tetap diposisikan sebagai pelengkap, bukan pengganti koneksi manusia yang otentik maupun bantuan tenaga profesional kesehatan mental, mengutip Research Gate dan sumber-sumber lain.