Kesalahan sistem dalam memberikan diagnosis dan rekomendasi dapat berdampak serius karena berkaitan langsung dengan keselamatan manusia.
"Penggunaan AI untuk mendiagnosis penyakit dan membantu pengambilan keputusan, baik oleh dokter maupun oleh agen AI dalam layanan medis, juga memiliki risiko tinggi. Di bidang kesehatan, yang dipertaruhkan adalah nyawa manusia," Nezar menjelaskan.
Ia menyampaikan bahwa risiko penggunaan AI di bidang kesehatan juga mencakup keamanan data pribadi pasien.
Data menjadi elemen utama dalam pengembangan dan pengoperasian AI, karena itu pengelolaannya harus dilakukan secara hati-hati supaya informasi sensitif warga tidak bocor dan disalahgunakan.
Nezar menjelaskan, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi merupakan salah satu instrumen penting dalam upaya untuk menjaga keamanan ekosistem AI nasional.
Penggunaan data dalam pengembangan teknologi harus tetap memperhatikan hak anggota masyarakat atas informasi pribadi mereka, termasuk data kesehatan dengan sensitivitas tinggi.
"Kita sudah punya seperangkat regulasi yang menjaga ekosistem AI meski tidak berhubungan langsung dengannya, seperti Undang-Undang ITE dan Undang-Undang Perlindungan Data Pribadi. Ini penting sekali karena kalau bicara soal AI kan makanannya data," Nezar menjelaskan.
