Sejumlah karyawan Google turut mengatakan mereka takut berbicara secara terbuka mengenai keselamatan AI dan penggunaannya dalam peperangan. Pasalnya, kontrak kerja mereka melarang kritik terbuka terhadap perusahaan.
Meski demikian, Ligouri tetap menyampaikan kritiknya. Menurutnya, membicarakan fakta bukanlah tindakan mengkritik.
"Pada prinsipnya, saya tidak diizinkan untuk mengkritik Google seumur hidup saya. Karena saya percaya hal-hal seperti ini perlu diketahui. Saya juga berpikir bahwa membicarakan fakta bukanlah tindakan mengkritik," tutur Ligouri.
"Orang-orang takut mendapatkan tindakan balasan dan mempertaruhkan karir mereka. Mereka merasa sedang diawasi dan tidak bisa berbicara secara terbuka," tambahnya.
Merespons hal tersebut, juru bicara Google mengatakan bahwa mereka bekerja sama dengan organisasi sektor publik di seluruh dunia dan mengikuti proses yang konsisten dalam meninjau maupun menjalin kontrak tersebut.
Menurutnya, proses ini mencakup kepatuhan terhadap kebijakan penggunaan yang dapat diterima dan prinsip-prinsip AI perusahaan.
"Kami juga memiliki saluran khusus bagi karyawan untuk menyampaikan kekhawatiran dengan aman, mulai dari masalah etika bisnis hingga pelanggaran. Kami juga menerapkan kebijakan tempat kerja yang ketat untuk mencegah segala bentuk tindakan balasan terhadap karyawan," kata juru bicara Google kepada BBC.
Ilustrasi. Kekahwatiran terhadap penggunaan AI di medan perang semakin meningkat. (Foto: istockphoto/gorodenkoff)
Google merupakan salah satu dari sejumlah perusahaan teknologi yang menandatangani kontrak dengan militer AS pada awal tahun ini untuk menerapkan AI diberbagai lingkungan militer yang bersifat rahasia. Kontrak ini mengizinkan teknologi AI perusahaan tersebut digunakan untuk pekerjaan militer yang bersifat rahasia.
Dalam perjanjian tersebut disebutkan model AI Google dapat digunakan untuk "segala tujuan pemerintah yang sah secara hukum". Namun, teknologi tersebut "tidak boleh digunakan untuk pengawasan massal terhadap warga sipil dalam negeri atau senjata otonom tanpa pengawasan dan kendali manusia yang sesuai."
Seiring perkembangan teknologi yang semakin cepat, BBC menyebut kekahwatiran terhadap penggunaan AI di medan perang semakin meningkat.
Menteri Pertahanan AS Pete Hegseth menjadikan integrasi AI ke dalam angkatan bersenjata sebagai prioritas utama. Ia mengatakan pemerintahan Trump akan menjadikan milter AS sebagai kekuatan tempur yang mengutamakan AI.
Kesepakatan serupa juga ditandatangani oleh OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia dan perusahaan rintisan Reflection. Kesepakatan ini memungkinkan teknologi AI digunakan dalam berbagai kegiatan militer seperti transportasi, perencanaan, dan operasi di medan perang.
Sarah Shoker, eks kepala tim Geopolitik OpenAI turut menyampaikan pendapatannya. Ia khawatir terhadap penggunaan AI di medan perang yang kian meningkat.
"AI memangkas waktu yang dimiliki seorang operator untuk mengambil keputusan karena AI bekerja jauh lebih cepat daripada manusia. Hal ini sangat berisiko, terutama dalam situasi yang penuh tekanan," kata Sarah.
"Ketika ada ratusan terget yang dipilih oleh AI dan waktu yang tersedia sangat singkat, hampir mustahil bagi operator manusia untuk memeriksa hasil yang diberikan oleh AI secara menyeluruh dan memastikan tidak ada kesalahan," tambahnya.
Dalam beberapa tahun terakhir, militer AS telah menerapkan berbagai teknologi berbasis AI untuk meningkatkan kemampuan tempurnya.
Salah satu contoh yang paling menonjol adalah Maven Smart System, platform perangkat lunak utama Pentagon yang digunakan untuk mengelola informasi intelijen dan data.
Platform ini dikembangkan oleh perusahaan AS bernama Palantir. Sistem ini menggunakan AI untuk membantu personel militer memilih dan mengidentifikasi target serangan.
Palantir telah mengintegrasikan teknologi dari sejumlah perusahaan AI terkemuka ke dalam Maven. Integrasi ini disebut memungkinkan beberapa proses dilakukan jauh lebih cepat.
Letnan Jenderal Purnawirawan sekaligus mantan direktur Project Maven, Jack Shananhan mengatakan bahwa filosofi yang diterapkan tampaknya adalah sebisa mungkin bergerak cepat untuk menerapkan teknologi AI secara luas, meskipun hal itu berpotensi mengorbankan ketelitian dan kedisiplinan dala proses pengujian serta evaluasi.
Namun, Pentagon tetap berpendapat bahwa penggunaan teknologi AI sangat penting untuk peperangan.
"Kecepatan menentukan kemenangan di era AI," kata Emil Michael, salah satu pejabat tinggi di Pentagon dalam sebuah pernyataan terpisah awal tahun ini.
