Peneliti AI lainnya, Andreas Kirsch, yang juga baru saja mengundurkan diri dari Google DeepMind bulan ini, mengkritik lemahnya pengawasan internal Google terhadap penggunaan AI di ranah militer.
"Google tampaknya tidak memiliki hak untuk mengontrol atau memveto bagaimana Pentagon menggunakan teknologi AI-nya, serta memiliki visibilitas yang sangat terbatas terhadap bagaimana AI tersebut diimplementasikan di lapangan," tegas Kirsch.
Pengunduran diri para peneliti ini dipicu oleh kesepakatan kontrak militer yang ditandatangani Google dengan militer AS awal tahun ini. Di bawah kepemimpinan Menteri Pertahanan AS Pete Hegseth, pemerintah AS berkomitmen mengubah angkatan bersenjatanya menjadi pasukan tempur berbasis AI (AI-first warfighting force).
Google bersama sejumlah raksasa teknologi lain--seperti OpenAI, Amazon, Microsoft, SpaceX, Oracle, dan Nvidia--mengizinkan teknologi AI mereka diintegrasikan ke dalam ekosistem militer, termasuk platform integrasi intelijen Pentagon bernama Project Maven buatan Palantir.
Meski kontrak Google mencantumkan klausul bahwa AI tidak boleh digunakan untuk senjata otonom tanpa pengawasan manusia (human oversight), para ahli dan mantan staf ragu pengawasan tersebut dapat berjalan efektif di lapangan:
