Kesepakatan serupa juga ditandatangani oleh OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia dan perusahaan rintisan Reflection. Kesepakatan ini memungkinkan teknologi AI digunakan dalam berbagai kegiatan militer seperti transportasi, perencanaan, dan operasi di medan perang.
Sarah Shoker, eks kepala tim Geopolitik OpenAI turut menyampaikan pendapatannya. Ia khawatir terhadap penggunaan AI di medan perang yang kian meningkat.
"AI memangkas waktu yang dimiliki seorang operator untuk mengambil keputusan karena AI bekerja jauh lebih cepat daripada manusia. Hal ini sangat berisiko, terutama dalam situasi yang penuh tekanan," kata Sarah.
"Ketika ada ratusan terget yang dipilih oleh AI dan waktu yang tersedia sangat singkat, hampir mustahil bagi operator manusia untuk memeriksa hasil yang diberikan oleh AI secara menyeluruh dan memastikan tidak ada kesalahan," tambahnya.
Dalam beberapa tahun terakhir, militer AS telah menerapkan berbagai teknologi berbasis AI untuk meningkatkan kemampuan tempurnya.
Salah satu contoh yang paling menonjol adalah Maven Smart System, platform perangkat lunak utama Pentagon yang digunakan untuk mengelola informasi intelijen dan data.
Platform ini dikembangkan oleh perusahaan AS bernama Palantir. Sistem ini menggunakan AI untuk membantu personel militer memilih dan mengidentifikasi target serangan.
Palantir telah mengintegrasikan teknologi dari sejumlah perusahaan AI terkemuka ke dalam Maven. Integrasi ini disebut memungkinkan beberapa proses dilakukan jauh lebih cepat.
Letnan Jenderal Purnawirawan sekaligus mantan direktur Project Maven, Jack Shananhan mengatakan bahwa filosofi yang diterapkan tampaknya adalah sebisa mungkin bergerak cepat untuk menerapkan teknologi AI secara luas, meskipun hal itu berpotensi mengorbankan ketelitian dan kedisiplinan dala proses pengujian serta evaluasi.
Namun, Pentagon tetap berpendapat bahwa penggunaan teknologi AI sangat penting untuk peperangan.
"Kecepatan menentukan kemenangan di era AI," kata Emil Michael, salah satu pejabat tinggi di Pentagon dalam sebuah pernyataan terpisah awal tahun ini.
Sejumlah peneliti Google DeepMind mengundurkan diri dari perusahaan lantaran menolak teknologi kecerdasan buatan (AI) besutannya digunakan untuk operasi militer.
Sofia Ligouri, salah satu insinyur riset berasal dari Inggris mengundurkan dari Google DeepMind pekan lalu. Ia berbicara soal kekhawatirannya kontrak antara Google dengan militer yang tengah berlangsung.
"Menyadari bahwa perusahaan tempat saya bekerja semakin mendorong penggunaan sistem AI dalam operasi militer membuat saya merasa malu bekerja di Google," ungkap Ligouri kepada BBC, Kamis (22/10).
Setelah bekerja di Google selama tiga tahun, Ligouri mengatakan dirinya untuk memutuskan mengundurkan diri karena meningkatnya kerja sama Google dengan militer Amerika Serikat (AS) dan Israel.
Menurutnya, langkah yang diambil perusahaan tidak sesuai dengan prinsip dan nilai-nilai yang selama ini diterapkan.
"Saya tidak setuju dengan arah ini. Hal tersebut membuat saya kehilangan kepercayaan bahwa perusahaan saya benar-benar berpegang pada nilai-nilai etika yang selama ini mereka nyatakan," tambahnya.
Berdasarkan prinsip AI Google, nilai-nilai etika yang disinggung oleh Ligouri mencakup penerapan AI dengan "pengawasan manusia" serta penyelarasan teknologi dengan "hukum internasional dan hak asasi manusia".
Namun demikian, sejumlah mantan dan karyawan Google yang masih bekerja di perusahaan, serta para ahli yang diwawancarai oleh BBC mengaku khawatir teknologi AI yang digunakan untuk keperluan militer mungkin bertindak atau mengambil keputusan di situasi genting tanpa kendali atau campur tangan manusia yang memadai.
Para pekerja teknologi tersebut mengatakan bahwa mereka secara khusus mengkhawatirkan kesepakatan AI untuk keperluan militer yang ditandatangani tahun ini. Pasalnya, kesepakatan tersebut secara signifikan memperluas cakupan penggunaan teknologi AI yang diizinkan Pentagon, markas besar Departemen Pertahanan AS.
Seorang peneliti AI lainnya di Google DeepMind bernama Andreas Krisch, turut mengundurkan diri dari perusahaan pada awal bulan ini karena kekhawatiran yang sama. Krisch menilai tata kelola dan pengawasan Google belum memadai atau belum cukup berarti untuk menerapkan AI secara aman dan bertanggung jawab dalam lingkungan dan operasi militer yang bersifat rahasia.
Ia turut menyebut sistem AI milik Google belum cukup aman untuk mengembangkan kecerdasan super (superintelligence)" di masa depan.
"Google tampaknya tidak memiliki hak untuk mengendalikan atau memveto cara Pentagon menggunakan AI mereka. Google juga tampaknya memiliki akses informasi yang terbatas mengenai bagaimana teknologi tersebut diterapkan," jelas Krisch.
