NADIKABAR.COM — Melalui Inisiatif Transparansi AI yang baru, Microsoft bekerja sama dengan lebih dari 40 organisasi, termasuk Accenture, Adobe, KPMG, Mastercard, dan Volvo Cars, untuk mendorong pendekatan bersama terhadap transparansi, keamanan, dan tata kelola AI di seluruh model dan penyedia. Microsoft juga akan meningkatkan visibilitas mengenai cara model dan agen AI berinteraksi dengan data perusahaan di seluruh produk dan layanannya
Redmond, Wash., (ANTARA/PRNewswire)- Organisasi dapat mengamati sebagian besar aktivitas di sekitar model AI, tetapi sering kali tidak dapat merekonstruksi apa yang terjadi antara suatu permintaan dan hasil sehingga sulit untuk memverifikasi perilaku model secara independen. Dalam acara Microsoft Ignite pada Selasa, Ketua Dewan Direksi dan CEO Microsoft, Satya Nadella, mengumumkan fase berikutnya dari komitmen Microsoft untuk menjadikan AI lebih aman: Inisiatif Transparansi AI, yaitu suatu inisiatif kolaboratif bersama pelanggan dan mitra untuk membangun pendekatan terbuka yang sama terhadap keamanan dan tata kelola di seluruh model dan penyedia. Inisiatif ini mencerminkan prinsip sederhana: Semakin besar otonomi AI, semakin besar pula transparansi yang dibutuhkan.
"Agar kontrol keamanan berjalan efektif, setiap organisasi membutuhkan transparansi yang lebih besar terhadap model itu sendiri," ujar Hayete Gallot, Wakil Presiden Eksekutif, Microsoft Security. "Melalui upaya ini, kami akan meningkatkan transparansi ke semua model. Ini adalah langkah penting untuk menjadikan pembatasan dampak ancaman (containment) lebih cerdas dan lebih kuat, sehingga kami dapat mendukung akuntabilitas dan keterlacakan dengan lebih baik."
Perusahaan kini menghubungkan model AI ke data, perangkat, kredensial, dan infrastruktur, sehingga agen dapat mengambil tindakan tanpa memerlukan persetujuan manusia pada setiap langkah. Kontrol yang ada saat ini dapat mengamati sebagian besar aktivitas di sekitar model AI, tetapi tidak dapat melihat apa yang terjadi di dalamnya atau secara independen memverifikasi laporan model atas perilaku mereka sendiri. Hal ini membatasi kemampuan organisasi untuk memahami konteks di balik tindakan agen. Kesenjangan bukti tersebut menimbulkan risiko keamanan, kepatuhan, audit, dan akuntabilitas. Tim keamanan membutuhkan arsitektur kepercayaan baru untuk mengatasi peningkatan risiko dari orang dalam yang ditimbulkan oleh agen AI yang kian canggih.
"Seiring dengan kian terintegrasinya agen AI ke dalam operasi perusahaan, tim keamanan perlu visibilitas yang jelas tentang apa saja yang diakses oleh agen tersebut, tindakan apa yang dilakukannya, dan bagaimana tindakan tersebut dapat diverifikasi," terang Aanchal Gupta, Direktur Keamanan, Adobe. "Membangun pendekatan bersama terhadap transparansi AI di seluruh industri sangat penting demi memperkuat kepercayaan dan membantu organisasi berinovasi dengan penuh keyakinan, sambil menjaga keamanan dan akuntabilitas."