Pengujian lainnya menemukan Muse terkadang berhenti bekerja, mengabaikan error, atau bahkan mematikan sistem monitoring tanpa alasan yang jelas.
Temuan tersebut menunjukkan bahwa AI agent yang mampu mengambil tindakan sendiri menghadirkan tantangan baru. Kesalahan AI tidak hanya menghasilkan jawaban yang keliru, tetapi berpotensi berdampak langsung pada aktivitas pengguna.
Meta mengatakan sempat menunda peluncuran Muse untuk meningkatkan aspek keamanannya.
Perusahaan kini menilai sistem tersebut telah melewati ambang minimum yang diperlukan untuk dirilis. Meski demikian, Meta tetap mengakui bahwa kesalahan masih mungkin terjadi.
Untuk mengurangi risiko, Muse dilengkapi sistem monitoring tambahan yang dapat memeriksa tindakan yang dilakukan agent.
Sistem tersebut juga dapat meminta persetujuan pengguna untuk aktivitas tertentu sebelum tindakan dilakukan.
Dengan pendekatan ini, Meta mencoba menyeimbangkan kemampuan AI untuk bekerja secara mandiri dengan kontrol pengguna atas tindakan yang dianggap berisiko.
Peluncuran Muse menunjukkan bagaimana perkembangan AI mulai bergerak dari sekadar chatbot yang menjawab pertanyaan menjadi AI agent yang dapat melakukan tindakan nyata.
Jika chatbot konvensional membutuhkan pengguna untuk melakukan langkah berikutnya, AI agent seperti Muse dirancang untuk menjalankan serangkaian tugas berdasarkan tujuan yang diberikan.
Mulai dari mengirim email, memesan perjalanan, berbelanja hingga melakukan pembayaran dapat dilakukan dengan bantuan AI, selama pengguna memberikan akses dan izin yang diperlukan.
Namun, kemampuan tersebut juga membuat aspek keamanan dan privasi menjadi semakin penting.
Untuk saat ini, Meta Muse baru tersedia di Amerika Serikat dan belum diketahui kapan akan hadir di Indonesia. Pengguna di Tanah Air masih perlu menunggu pengumuman resmi Meta mengenai perluasan layanan AI agent tersebut.
