Terungkap, Microsoft dan OpenAI Dukung Pembantaian di Gaza

REPUBLIKA.CO.ID, WASHINGTON — Raksasa teknologi AS diam-diam telah mendukung Israel untuk melacak dan membunuh lebih banyak orang yang diduga pejuang dengan lebih cepat di Gaza dan Lebanon melalui lonjakan tajam dalam layanan kecerdasan buatan dan komputasi. Jumlah warga sipil yang terbunuh juga melonjak, memicu kekhawatiran bahwa alat-alat tersebut berkontribusi terhadap kematian orang-orang yang tidak bersalah.

Pihak militer selama bertahun-tahun telah menyewa perusahaan swasta untuk membuat senjata otonom khusus. Namun, perang yang terjadi di Israel baru-baru ini merupakan contoh utama di mana model AI komersial yang dibuat di Amerika Serikat telah digunakan dalam peperangan aktif, meskipun ada kekhawatiran bahwa model tersebut pada awalnya tidak dikembangkan untuk membantu menentukan siapa yang hidup dan siapa yang mati.

Militer Israel menggunakan AI untuk menyaring banyak sekali informasi intelijen, menyadap komunikasi dan pengawasan untuk menemukan ucapan atau perilaku yang mencurigakan dan mempelajari pergerakan musuh-musuhnya. Setelah serangan mendadak oleh pejuang Palestina pada 7 Oktober 2023, penggunaan teknologi Microsoft dan OpenAI meroket, menurut penyelidikan Associated Press. 

Investigasi ini juga mengungkapkan rincian baru tentang bagaimana sistem AI memilih target dan kemungkinan terjadinya kesalahan, termasuk data yang salah atau algoritma yang cacat. Hal ini didasarkan pada dokumen internal, data dan wawancara eksklusif dengan pejabat dan mantan pejabat Israel serta karyawan perusahaan. 

“Ini adalah konfirmasi pertama yang kami dapatkan bahwa model AI komersial digunakan secara langsung dalam peperangan,” kata Heidy Khlaaf, kepala ilmuwan AI di AI Now Institute dan mantan insinyur keselamatan senior di OpenAI. “Implikasinya sangat besar terhadap peran teknologi dalam memungkinkan terjadinya peperangan yang tidak etis dan melanggar hukum.”

Tujuan Israel setelah serangan yang menewaskan sekitar 1.200 orang dan menyandera lebih dari 250 orang adalah untuk membasmi Hamas, dan militer Israel menyebut AI sebagai “pengubah permainan” dalam mencapai target dengan lebih cepat. Sejak perang dimulai, lebih dari 50.000 orang telah syahid di Gaza dan Lebanon dan hampir 70 persen  bangunan di Gaza hancur, menurut kementerian kesehatan di Gaza dan Lebanon. 

Penggunaan kecerdasan buatan Microsoft dan OpenAI oleh militer Israel melonjak pada bulan Maret lalu hingga hampir 200 kali lebih tinggi dibandingkan sebelum pekan-pekan menjelang serangan 7 Oktober, menurut temuan AP dalam meninjau informasi internal perusahaan. Jumlah data yang disimpan di server Microsoft meningkat dua kali lipat antara waktu tersebut dan Juli 2024 menjadi lebih dari 13,6 petabyte — kira-kira 350 kali lipat memori digital yang dibutuhkan untuk menyimpan setiap buku di Perpustakaan Kongres. Penggunaan server komputer Microsoft dalam jumlah besar oleh militer juga meningkat hampir dua pertiga dalam dua bulan pertama perang saja.

Google dan Amazon menyediakan komputasi cloud dan layanan AI kepada militer Israel di bawah “Proyek Nimbus,” sebuah kontrak senilai 1,2 miliar dolar AS yang ditandatangani pada tahun 2021, ketika Israel pertama kali menguji sistem penargetan bertenaga AI milik mereka. IDF telah menggunakan server farm atau pusat data Cisco dan Dell. Red Hat, anak perusahaan independen IBM, juga telah menyediakan teknologi komputasi awan untuk militer Israel, sementara Palantir Technologies, mitra Microsoft dalam kontrak pertahanan AS, memiliki “kemitraan strategis” yang menyediakan sistem AI untuk membantu upaya perang Israel.

Setelah OpenAI mengubah persyaratan penggunaannya tahun lalu untuk memungkinkan tujuan keamanan nasional, Google mengikutinya awal bulan ini dengan perubahan serupa pada kebijakan etika publiknya untuk menghapus pernyataan yang mengatakan bahwa mereka tidak akan menggunakan AI untuk senjata dan pengawasan.

Pasukan Penjajahan Israel (IDF) menggunakan Microsoft Azure untuk mengumpulkan informasi yang dikumpulkan melalui pengawasan massal, yang ditranskripsi dan diterjemahkan, termasuk panggilan telepon, teks, dan pesan audio, menurut seorang perwira intelijen Israel yang bekerja dengan sistem tersebut. Data tersebut kemudian dapat diperiksa silang dengan sistem penargetan internal Israel dan sebaliknya.

Dia mengatakan dia mengandalkan Azure untuk dengan cepat mencari istilah dan pola dalam kumpulan teks besar, seperti menemukan percakapan antara dua orang dalam dokumen setebal 50 halaman. Azure juga dapat menemukan orang-orang yang memberikan arahan satu sama lain dalam teks, yang kemudian dapat direferensikan silang dengan sistem AI milik militer untuk menentukan lokasi.

Data Microsoft yang ditinjau AP menunjukkan bahwa sejak serangan 7 Oktober, militer Israel telah banyak menggunakan alat transkripsi dan terjemahan serta model OpenAI, meskipun tidak merinci yang mana. Biasanya, model AI yang menyalin dan menerjemahkan memiliki performa terbaik dalam bahasa Inggris. OpenAI telah mengakui bahwa model terjemahan populer yang didukung AI, Whisper, yang dapat menyalin dan menerjemahkan ke berbagai bahasa termasuk bahasa Arab, dapat membuat teks yang tidak diucapkan oleh siapapun, termasuk menambahkan komentar rasial dan retorika kekerasan.

Kesalahan dapat terjadi karena berbagai alasan yang melibatkan AI, kata perwira militer Israel yang telah bekerja dengan sistem penargetan dan pakar teknologi lainnya. Panggilan telepon yang disadap dan terkait dengan profil seseorang mencakup waktu orang tersebut menelepon serta nama dan nomor orang yang melakukan panggilan tersebut. Namun diperlukan langkah ekstra untuk mendengarkan dan memverifikasi audio asli, atau melihat transkrip terjemahan.

Militer Israel mengatakan seseorang yang tahu bahasa Arab seharusnya memeriksa terjemahannya. Namun, seorang perwira intelijen mengatakan dia telah melihat kesalahan penargetan yang bergantung pada terjemahan mesin yang salah dari bahasa Arab ke bahasa Ibrani. Militer Israel mengatakan setiap percakapan telepon yang diterjemahkan dari bahasa Arab atau informasi intelijen yang digunakan untuk mengidentifikasi target harus ditinjau oleh petugas berbahasa Arab.

Kesalahan masih bisa terjadi karena berbagai alasan yang melibatkan AI, kata perwira militer Israel yang telah bekerja dengan sistem penargetan dan pakar teknologi lainnya. Seorang perwira intelijen mengatakan dia telah melihat kesalahan penargetan yang bergantung pada terjemahan mesin yang salah dari bahasa Arab ke bahasa Ibrani.

Misalnya, kata Arab yang menggambarkan pegangan pada tabung peluncuran granat berpeluncur roket sama dengan kata “pembayaran”. Dalam satu contoh, mesin menerjemahkannya salah, dan orang yang memverifikasi terjemahan tersebut awalnya tidak menangkap kesalahan tersebut, katanya, yang bisa saja menambahkan orang-orang yang berbicara tentang pembayaran ke dalam daftar target. “Petugasnya kebetulan ada di sana dan mengetahui masalahnya, “ujarnya.

Panggilan telepon yang disadap dan terkait dengan profil seseorang juga mencakup waktu orang tersebut menelepon serta nama dan nomor orang yang melakukan panggilan tersebut. Namun diperlukan langkah ekstra untuk mendengarkan dan memverifikasi audio asli, atau melihat transkrip terjemahan.

Terkadang data yang dilampirkan pada profil orang salah. Misalnya, sistem tersebut salah mengidentifikasi daftar siswa sekolah menengah atas yang berpotensi menjadi militan, menurut petugas tersebut. Sebuah spreadsheet Excel yang dilampirkan pada profil beberapa orang berjudul “final” dalam bahasa Arab, memuat setidaknya 1.000 nama siswa dalam daftar ujian di satu wilayah Gaza, katanya. Ini adalah satu-satunya bukti yang memberatkan yang dilampirkan pada arsip orang-orang, katanya, dan jika dia tidak mengetahui kesalahannya, orang-orang Palestina itu bisa saja salah ditandai.

Dia mengatakan dia juga khawatir bahwa para perwira muda, beberapa di antaranya masih berusia di bawah 20 tahun, yang berada di bawah tekanan untuk menemukan target dengan cepat dengan bantuan AI akan langsung mengambil kesimpulan.

AI saja dapat menghasilkan kesimpulan yang salah, kata tentara lain yang bekerja dengan sistem penargetan. Misalnya, AI mungkin menandai sebuah rumah milik seseorang yang terkait dengan Hamas namun tidak tinggal di sana. Sebelum rumahnya dihantam, manusia harus memastikan siapa sebenarnya yang ada di dalamnya, ujarnya.

“Jelas ada hal-hal yang saya jalani dengan damai dan hal-hal yang bisa saya lakukan dengan lebih baik dalam beberapa serangan yang ditargetkan yang merupakan tanggung jawab saya,” kata tentara itu kepada AP. “Ini perang, banyak hal terjadi, kesalahan terjadi, kami manusia.”

Tal Mimran bertugas selama 10 tahun sebagai petugas hukum cadangan untuk militer Israel, dan di tiga kelompok kerja NATO yang meneliti penggunaan teknologi baru, termasuk AI, dalam peperangan. Sebelumnya, katanya, dibutuhkan tim yang terdiri hingga 20 orang atau lebih setiap hari untuk meninjau dan menyetujui satu serangan udara. Sekarang, dengan sistem AI, militer menyetujui ratusan persetujuan dalam seminggu.

Mimran mengatakan ketergantungan yang berlebihan pada AI dapat memperkeras bias yang ada pada masyarakat. “Bias konfirmasi dapat menghalangi orang untuk menyelidiki sendiri,” kata Mimran, yang mengajar kebijakan hukum siber. “Beberapa orang mungkin malas, tapi yang lain mungkin takut melawan mesin dan berbuat salah serta membuat kesalahan.”

Ketika para raksasa teknologi AS menduduki posisi penting di bawah kepemimpinan Presiden Donald Trump, temuan AP menimbulkan pertanyaan tentang peran Silicon Valley di masa depan peperangan otomatis. Microsoft berharap kemitraannya dengan militer Israel akan semakin berkembang, dan apa yang terjadi dengan Israel dapat membantu menentukan penggunaan teknologi baru ini di seluruh dunia. 

Investigasi AP didasarkan pada wawancara dengan enam anggota aktif dan mantan tentara Israel, termasuk tiga perwira intelijen cadangan. Kebanyakan dari mereka berbicara tanpa mau disebutkan namanya karena mereka tidak berwenang membahas operasi militer yang sensitif.

AP juga mewawancarai 14 karyawan saat ini dan mantan karyawan di Microsoft, OpenAI, Google dan Amazon, yang sebagian besar juga berbicara secara anonim karena takut akan pembalasan. Para jurnalis meninjau data dan dokumen internal perusahaan, termasuk dokumen yang merinci persyaratan kontrak senilai 133 juta dolar AS antara Microsoft dan Kementerian Pertahanan Israel. 

Militer Israel mengatakan para analisnya menggunakan sistem berkemampuan AI untuk membantu mengidentifikasi target, namun secara independen memeriksa target tersebut bersama dengan perwira tinggi untuk memenuhi hukum internasional, dengan mempertimbangkan keuntungan militer dibandingkan kerusakan tambahan yang ditimbulkan. 

Seorang pejabat senior intelijen Israel yang berwenang untuk berbicara dengan AP mengatakan target militer yang sah mungkin mencakup pejuang yang berperang melawan Israel, dimanapun mereka berada, dan bangunan yang digunakan oleh militan. Para pejabat bersikeras bahwa meskipun AI berperan, selalu ada beberapa lapisan manusia yang terlibat.

“Alat AI ini membuat proses intelijen lebih akurat dan efektif,” demikian pernyataan militer Israel kepada AP. “⁠Mereka membuat lebih banyak target dengan lebih cepat, namun tidak mengorbankan akurasi, dan dalam perang ini mereka sering kali mampu meminimalkan korban sipil.” Militer Israel menolak menjawab pertanyaan tertulis rinci dari AP tentang penggunaan produk AI komersial dari perusahaan teknologi Amerika. 

Microsoft menolak berkomentar mengenai cerita ini dan tidak menanggapi daftar rinci pertanyaan tertulis tentang layanan cloud dan AI yang diberikan kepada militer Israel. OpenAI mengatakan pihaknya tidak memiliki kemitraan dengan militer Israel, dan kebijakan penggunaannya menyatakan bahwa pelanggannya tidak boleh menggunakan produknya untuk mengembangkan senjata, menghancurkan properti, atau menyakiti orang. 

Namun, sekitar setahun yang lalu, OpenAI mengubah ketentuan penggunaannya dari melarang penggunaan militer menjadi mengizinkan “kasus penggunaan keamanan nasional yang selaras dengan misi kami.”

Google mengatakan pihaknya berkomitmen untuk mengembangkan dan menerapkan AI secara bertanggung jawab “yang melindungi manusia, mendorong pertumbuhan global, dan mendukung keamanan nasional.” Palantir, Cisco dan Oracle tidak menanggapi permintaan komentar. Amazon menolak berkomentar.

Satu kontrak berdurasi tiga tahun antara Microsoft dan Kementerian Pertahanan Israel dimulai pada tahun 2021 dan bernilai $133 juta, menjadikannya pelanggan militer terbesar kedua secara global setelah AS, menurut dokumen yang ditinjau oleh AP. Militer Israel diklasifikasikan dalam Microsoft sebagai klien “S500”, yang berarti bahwa mereka mendapat prioritas utama sebagai salah satu pelanggan terpenting perusahaan tersebut secara global.

Perjanjian layanan militer Israel dengan Microsoft mencakup setidaknya 635 langganan individu yang terdaftar di bawah divisi, unit, pangkalan, atau kata kode proyek tertentu. Nama-nama langganan yang ditinjau oleh AP termasuk “Mamram” dan “8200,” sebuah unit intelijen elit yang terkenal dengan kehebatan teknologinya.

Satu tiket dukungan mendesak Azure yang diajukan sekitar dua minggu setelah serangan tanggal 7 Oktober meminta penundaan penghentian pemeliharaan yang direncanakan untuk sisa tahun ini karena perang, karena waktu henti apa pun dapat “berdampak langsung pada sistem yang menyelamatkan jiwa.” Permintaan tersebut ditandai sebagai berasal dari “Glilot – 8200,” sebuah pangkalan militer yang sangat aman yang menampung Unit 8200, yang bertanggung jawab atas operasi rahasia, pengumpulan sinyal intelijen dan dekripsi kode, perang dunia maya, dan pengawasan.

Catatan menunjukkan tim dukungan Azure global Microsoft menanggapi sekitar 130 permintaan langsung dari militer Israel selama 10 bulan pertama perang. Unit layanan konsultasi Microsoft juga bekerja sama dengan militer Israel, yang mewakili setengah dari keseluruhan pendapatan bagian tersebut, menurut sebuah dokumen internal.

Di Israel, sebuah tim yang terdiri dari setidaknya sembilan karyawan Microsoft berdedikasi untuk melayani kepentingan militer. Di antara mereka adalah seorang eksekutif senior yang bertugas selama 14 tahun di Unit 8200 dan mantan pemimpin TI untuk intelijen militer, menurut resume online mereka. Data Microsoft disimpan di server farm di dalam dua bangunan besar di luar Tel Aviv, tertutup di balik tembok tinggi yang di atasnya diberi kawat berduri. Microsoft juga mengoperasikan kampus perusahaan seluas 46.000 meter persegi di Herzliya, utara Tel Aviv, dan kantor lainnya di Gav-Yam di Israel selatan, yang mengibarkan bendera Israel berukuran besar.

Pasukan Pertahanan Israel telah lama berada di garis depan dalam penerapan kecerdasan buatan untuk keperluan militer. Pada awal 2021, Israel meluncurkan Gospel, sebuah alat AI yang memilah beragam informasi digital Israel untuk menyarankan target potensi serangan. Mereka juga mengembangkan Lavender, yang menggunakan pembelajaran mesin untuk menyaring kriteria yang diminta dari database intelijen dan mempersempit daftar target potensial, termasuk manusia.

Lavender memberi peringkat pada orang-orang antara 0 dan 100 berdasarkan seberapa besar kemungkinan mereka adalah seorang militan, kata seorang perwira intelijen yang menggunakan sistem tersebut. Pemeringkatan tersebut didasarkan pada informasi intelijen, seperti silsilah keluarga orang tersebut, apakah ayah seseorang adalah seorang militan yang diketahui pernah menjalani hukuman, dan menyadap panggilan telepon, katanya.

Pada Mei 2021, militer Israel melancarkan apa yang digambarkan oleh pejabat intelijen Israel sebagai “Perang AI Pertama”, yaitu kampanye pengeboman selama 11 hari terhadap Hamas. Pada saat itu, para pejabat militer Israel menggambarkan AI sebagai “pengganda kekuatan,” yang memungkinkan mereka melakukan serangan udara jauh lebih banyak dibandingkan konflik-konflik sebelumnya.

Sebuah postingan pada tahun 2021 oleh militer Israel juga menggambarkan pertaruhan seputar penggunaan AI dalam perang: “Tidak seperti di bidang AdTech dan Gaming, keputusan yang salah di bidang intelijen dapat memakan korban jiwa,” bunyi postingan tersebut. Postingan yang sama menggambarkan penggabungan pendekatan AI oleh militer untuk menganalisis nada emosional komunikasi, sebuah teknik yang menurut para ahli bisa gagal dalam memilih bahasa gaul, jargon, atau nuansa dalam ucapan masyarakat.

Hoda Hijazi melarikan diri bersama ketiga putrinya yang masih kecil dan ibunya dari bentrokan antara Israel dan sekutu Hamas, Hizbullah, di perbatasan Lebanon ketika mobil mereka dibom. Sebelum mereka pergi, orang-orang dewasa tersebut menyuruh gadis-gadis tersebut untuk bermain di depan rumah agar drone Israel mengetahui bahwa mereka bepergian bersama anak-anak. 

Para perempuan dan anak perempuan tersebut berkendara bersama paman Hijazi, Samir Ayoub, seorang jurnalis stasiun radio sayap kiri, yang sedang melakukan karavan dengan mobilnya sendiri. Mereka mendengar dengungan hingar-bingar drone yang sangat rendah di atas kepala.

Tak lama kemudian, serangan udara menghantam mobil yang dikendarai Hijazi. Ia menuruni lereng dan terbakar. Ayoub berhasil menarik Hijazi keluar, tetapi ibunya – saudara perempuan Ayoub – dan ketiga gadisnya – Rimas (14 tahun), Taline (12 tahun), dan Liane (10 tahun) – syahid.

Sebelum mereka meninggalkan rumah, kenang Hijazi, salah satu gadis bersikeras untuk memotret kucing-kucing di taman “karena mungkin kita tidak akan melihatnya lagi.” Pada akhirnya, katanya, “kucing-kucing itu selamat dan gadis-gadis itu hilang.” 

Rekaman video dari kamera keamanan di sebuah toko swalayan sesaat sebelum pemogokan menunjukkan keluarga Hijazi berada di dalam SUV Hyundai, bersama ibu dan salah satu gadisnya sedang memuat kendi berisi air. Keluarga tersebut mengatakan video tersebut membuktikan drone Israel seharusnya melihat perempuan dan anak-anak tersebut. 

Sehari setelah keluarga tersebut diserang, militer Israel merilis video serangan tersebut bersama dengan paket video dan foto serupa. Sebuah pernyataan yang dirilis bersama gambar tersebut mengatakan bahwa jet tempur Israel telah “menyerang lebih dari 450 sasaran Hamas.” Analisis visual AP mencocokkan jalan dan fitur geografis lainnya dalam video militer Israel dengan citra satelit dari lokasi ketiga gadis tersebut tewas, 1,7 kilometer dari toko.

Seorang perwira intelijen Israel mengatakan kepada AP bahwa AI telah digunakan untuk membantu menentukan semua target dalam tiga tahun terakhir. Dalam kasus ini, AI kemungkinan besar akan menunjukkan tempat tinggalnya, dan pengumpulan intelijen lainnya bisa saja menempatkan seseorang di sana. Suatu saat, mobil meninggalkan kediaman.

Ikuti Whatsapp Channel Republika