NADIKABAR.COM — Melalui Inisiatif Transparansi AI yang baru, Microsoft bekerja sama dengan lebih dari 40 organisasi, termasuk Accenture, Adobe, KPMG, Mastercard, dan Volvo Cars, untuk mendorong pendekatan bersama terhadap transparansi, keamanan, dan tata kelola AI di seluruh model dan penyedia. Microsoft juga akan meningkatkan visibilitas mengenai cara model dan agen AI berinteraksi dengan data perusahaan di seluruh produk dan layanannya
Redmond, Wash., (ANTARA/PRNewswire)- Organisasi dapat mengamati sebagian besar aktivitas di sekitar model AI, tetapi sering kali tidak dapat merekonstruksi apa yang terjadi antara suatu permintaan dan hasil sehingga sulit untuk memverifikasi perilaku model secara independen. Dalam acara Microsoft Ignite pada Selasa, Ketua Dewan Direksi dan CEO Microsoft, Satya Nadella, mengumumkan fase berikutnya dari komitmen Microsoft untuk menjadikan AI lebih aman: Inisiatif Transparansi AI, yaitu suatu inisiatif kolaboratif bersama pelanggan dan mitra untuk membangun pendekatan terbuka yang sama terhadap keamanan dan tata kelola di seluruh model dan penyedia. Inisiatif ini mencerminkan prinsip sederhana: Semakin besar otonomi AI, semakin besar pula transparansi yang dibutuhkan.
"Agar kontrol keamanan berjalan efektif, setiap organisasi membutuhkan transparansi yang lebih besar terhadap model itu sendiri," ujar Hayete Gallot, Wakil Presiden Eksekutif, Microsoft Security. "Melalui upaya ini, kami akan meningkatkan transparansi ke semua model. Ini adalah langkah penting untuk menjadikan pembatasan dampak ancaman (containment) lebih cerdas dan lebih kuat, sehingga kami dapat mendukung akuntabilitas dan keterlacakan dengan lebih baik."
Perusahaan kini menghubungkan model AI ke data, perangkat, kredensial, dan infrastruktur, sehingga agen dapat mengambil tindakan tanpa memerlukan persetujuan manusia pada setiap langkah. Kontrol yang ada saat ini dapat mengamati sebagian besar aktivitas di sekitar model AI, tetapi tidak dapat melihat apa yang terjadi di dalamnya atau secara independen memverifikasi laporan model atas perilaku mereka sendiri. Hal ini membatasi kemampuan organisasi untuk memahami konteks di balik tindakan agen. Kesenjangan bukti tersebut menimbulkan risiko keamanan, kepatuhan, audit, dan akuntabilitas. Tim keamanan membutuhkan arsitektur kepercayaan baru untuk mengatasi peningkatan risiko dari orang dalam yang ditimbulkan oleh agen AI yang kian canggih.
"Seiring dengan kian terintegrasinya agen AI ke dalam operasi perusahaan, tim keamanan perlu visibilitas yang jelas tentang apa saja yang diakses oleh agen tersebut, tindakan apa yang dilakukannya, dan bagaimana tindakan tersebut dapat diverifikasi," terang Aanchal Gupta, Direktur Keamanan, Adobe. "Membangun pendekatan bersama terhadap transparansi AI di seluruh industri sangat penting demi memperkuat kepercayaan dan membantu organisasi berinovasi dengan penuh keyakinan, sambil menjaga keamanan dan akuntabilitas."
Inisiatif ini terdiri atas tiga bagian. Pertama, Microsoft akan memperluas partisipasinya dalam Inisiatif Standar Agen SI (SI Agent Standards Initiative) yang digagas oleh National Institute of Standards and Technology dan memanfaatkan penelitiannya untuk mengembangkan standar terbuka di seluruh industri terkait transparansi, keamanan, dan tata kelola AI. Kedua, Microsoft berkolaborasi dengan lebih dari 40 organisasi, termasuk Accenture, Adobe, KPMG, Mastercard, dan Volvo Cars, untuk membantu mengembangkan standar terbuka bagi sistem AI yang akuntabel, dapat diverifikasi secara independen, dan dirancang dengan mengutamakan keamanan, terlepas dari model atau penyedianya.
Ketiga, Microsoft akan mengintegrasikan upaya ini ke dalam Microsoft AI, Microsoft Foundry, dan Microsoft Copilot, sehingga pelanggan dapat menggunakan bukti yang dihasilkan bersama perangkat keamanan dan kepatuhan mereka, baik yang berasal dari Microsoft atau penyedia lain.
"Klien kami ingin mempercepat pemanfaatan AI dan mereka seharusnya tidak perlu memilih antara inovasi dan keamanan," tutur John Israel, Direktur Keamanan Informasi Global, KPMG International. "Kepercayaan terhadap AI membutuhkan transparansi, kemampuan untuk menjelaskan, dan pengawasan yang bertanggung jawab. Kami bangga dapat bekerja sama dengan Microsoft dalam Inisiatif Transparansi AI untuk membantu menetapkan standar terbuka di seluruh industri yang memberikan organisasi visibilitas dan kontrol yang dibutuhkannya agar dapat menerapkan AI secara bertanggung jawab dalam skala besar."
Agen yang memiliki akses ke data, perangkat, dan kredensial membawa profil risiko yang sama dengan orang dalam yang memiliki hak istimewa. Namun, agen AI beroperasi dengan kecepatan dan skala mesin sehingga pengawasan independen menjadi sangat penting.
Akuntabilitas tetap berada di tangan organisasi. Ketika terjadi sesuatu yang berdampak besar, para pemimpin harus mempertanggungjawabkannya kepada pelanggan, karyawan, dewan direksi, auditor, dan regulator. Menyalahkan AI bukanlah jawaban, dan semata-mata "percaya pada model" bukanlah bentuk kontrol.
Inisiatif ini dirancang agar dapat diterapkan di berbagai model dan penyedia, termasuk model tertutup dan model dengan bobot terbuka (open weight). Dengan demikian, tim pengembang dapat mengubah atau memperbarui model yang mendukung agen mereka tanpa mengorbankan kemampuan tim TI dan keamanan dalam mengelolanya dengan aman ataupun kemampuan tim kepatuhan dalam mengaudit tindakan agen tersebut.
"Ketika organisasi mengambil langkah selanjutnya dalam reinvensi AI mereka, dibutuhkan fondasi kepercayaan dan keyakinan yang kuat sebagai landasan untuk berkembang," tegas Harpreet Sidhu, kepala bidang keamanan siber global, Accenture. "Inisiatif seperti yang digagas Microsoft ini dalam mengambil pendekatan terbuka, yang didorong oleh industri untuk transparansi AI dapat membantu upaya kami mengamankan model AI dan melengkapinya dengan mekanisme kontrol dan tata kelola. Accenture bangga dapat bermitra dengan Microsoft dan para pemimpin lainnya di ranah ini."
Microsoft meyakini bahwa setiap organisasi harus mampu melihat apa yang diakses dan apa yang dilakukan oleh sistem AI, memverifikasi tindakan mereka secara independen, dan mengontrol apa saja yang diizinkan untuk dilakukan.
Organisasi yang tertarik untuk turut membantu membentuk inisiatif ini atau mengikuti perkembangannya dapat mempelajari selengkapnya dan mendaftarkan diri di aka.ms/learnmoreAItransparency.
Ikuti berita dari Microsoft Ignite, tempat Microsoft dan para pemimpin industri akan berbagi wawasan mengenai cara organisasi mengelola model dan agen AI dengan penuh keyakinan. Informasi lebih lanjut tersedia di blog Microsoft Security.