REPUBLIKA.CO.ID, WASHINGTON — Raksasa teknologi AS diam-diam telah mendukung Israel untuk melacak dan membunuh lebih banyak orang yang diduga pejuang dengan lebih cepat di Gaza dan Lebanon melalui lonjakan tajam dalam layanan kecerdasan buatan dan komputasi. Jumlah warga sipil yang terbunuh juga melonjak, memicu kekhawatiran bahwa alat-alat tersebut berkontribusi terhadap kematian orang-orang yang tidak bersalah.
Pihak militer selama bertahun-tahun telah menyewa perusahaan swasta untuk membuat senjata otonom khusus. Namun, perang yang terjadi di Israel baru-baru ini merupakan contoh utama di mana model AI komersial yang dibuat di Amerika Serikat telah digunakan dalam peperangan aktif, meskipun ada kekhawatiran bahwa model tersebut pada awalnya tidak dikembangkan untuk membantu menentukan siapa yang hidup dan siapa yang mati.
Militer Israel menggunakan AI untuk menyaring banyak sekali informasi intelijen, menyadap komunikasi dan pengawasan untuk menemukan ucapan atau perilaku yang mencurigakan dan mempelajari pergerakan musuh-musuhnya. Setelah serangan mendadak oleh pejuang Palestina pada 7 Oktober 2023, penggunaan teknologi Microsoft dan OpenAI meroket, menurut penyelidikan Associated Press.
Investigasi ini juga mengungkapkan rincian baru tentang bagaimana sistem AI memilih target dan kemungkinan terjadinya kesalahan, termasuk data yang salah atau algoritma yang cacat. Hal ini didasarkan pada dokumen internal, data dan wawancara eksklusif dengan pejabat dan mantan pejabat Israel serta karyawan perusahaan.
“Ini adalah konfirmasi pertama yang kami dapatkan bahwa model AI komersial digunakan secara langsung dalam peperangan,” kata Heidy Khlaaf, kepala ilmuwan AI di AI Now Institute dan mantan insinyur keselamatan senior di OpenAI. “Implikasinya sangat besar terhadap peran teknologi dalam memungkinkan terjadinya peperangan yang tidak etis dan melanggar hukum.”
Tujuan Israel setelah serangan yang menewaskan sekitar 1.200 orang dan menyandera lebih dari 250 orang adalah untuk membasmi Hamas, dan militer Israel menyebut AI sebagai “pengubah permainan” dalam mencapai target dengan lebih cepat. Sejak perang dimulai, lebih dari 50.000 orang telah syahid di Gaza dan Lebanon dan hampir 70 persen bangunan di Gaza hancur, menurut kementerian kesehatan di Gaza dan Lebanon.
Penggunaan kecerdasan buatan Microsoft dan OpenAI oleh militer Israel melonjak pada bulan Maret lalu hingga hampir 200 kali lebih tinggi dibandingkan sebelum pekan-pekan menjelang serangan 7 Oktober, menurut temuan AP dalam meninjau informasi internal perusahaan. Jumlah data yang disimpan di server Microsoft meningkat dua kali lipat antara waktu tersebut dan Juli 2024 menjadi lebih dari 13,6 petabyte — kira-kira 350 kali lipat memori digital yang dibutuhkan untuk menyimpan setiap buku di Perpustakaan Kongres. Penggunaan server komputer Microsoft dalam jumlah besar oleh militer juga meningkat hampir dua pertiga dalam dua bulan pertama perang saja.
Google dan Amazon menyediakan komputasi cloud dan layanan AI kepada militer Israel di bawah “Proyek Nimbus,” sebuah kontrak senilai 1,2 miliar dolar AS yang ditandatangani pada tahun 2021, ketika Israel pertama kali menguji sistem penargetan bertenaga AI milik mereka. IDF telah menggunakan server farm atau pusat data Cisco dan Dell. Red Hat, anak perusahaan independen IBM, juga telah menyediakan teknologi komputasi awan untuk militer Israel, sementara Palantir Technologies, mitra Microsoft dalam kontrak pertahanan AS, memiliki “kemitraan strategis” yang menyediakan sistem AI untuk membantu upaya perang Israel.
Setelah OpenAI mengubah persyaratan penggunaannya tahun lalu untuk memungkinkan tujuan keamanan nasional, Google mengikutinya awal bulan ini dengan perubahan serupa pada kebijakan etika publiknya untuk menghapus pernyataan yang mengatakan bahwa mereka tidak akan menggunakan AI untuk senjata dan pengawasan.
Pasukan Penjajahan Israel (IDF) menggunakan Microsoft Azure untuk mengumpulkan informasi yang dikumpulkan melalui pengawasan massal, yang ditranskripsi dan diterjemahkan, termasuk panggilan telepon, teks, dan pesan audio, menurut seorang perwira intelijen Israel yang bekerja dengan sistem tersebut. Data tersebut kemudian dapat diperiksa silang dengan sistem penargetan internal Israel dan sebaliknya.
Dia mengatakan dia mengandalkan Azure untuk dengan cepat mencari istilah dan pola dalam kumpulan teks besar, seperti menemukan percakapan antara dua orang dalam dokumen setebal 50 halaman. Azure juga dapat menemukan orang-orang yang memberikan arahan satu sama lain dalam teks, yang kemudian dapat direferensikan silang dengan sistem AI milik militer untuk menentukan lokasi.
Data Microsoft yang ditinjau AP menunjukkan bahwa sejak serangan 7 Oktober, militer Israel telah banyak menggunakan alat transkripsi dan terjemahan serta model OpenAI, meskipun tidak merinci yang mana. Biasanya, model AI yang menyalin dan menerjemahkan memiliki performa terbaik dalam bahasa Inggris. OpenAI telah mengakui bahwa model terjemahan populer yang didukung AI, Whisper, yang dapat menyalin dan menerjemahkan ke berbagai bahasa termasuk bahasa Arab, dapat membuat teks yang tidak diucapkan oleh siapapun, termasuk menambahkan komentar rasial dan retorika kekerasan.
Kesalahan dapat terjadi karena berbagai alasan yang melibatkan AI, kata perwira militer Israel yang telah bekerja dengan sistem penargetan dan pakar teknologi lainnya. Panggilan telepon yang disadap dan terkait dengan profil seseorang mencakup waktu orang tersebut menelepon serta nama dan nomor orang yang melakukan panggilan tersebut. Namun diperlukan langkah ekstra untuk mendengarkan dan memverifikasi audio asli, atau melihat transkrip terjemahan.
Militer Israel mengatakan seseorang yang tahu bahasa Arab seharusnya memeriksa terjemahannya. Namun, seorang perwira intelijen mengatakan dia telah melihat kesalahan penargetan yang bergantung pada terjemahan mesin yang salah dari bahasa Arab ke bahasa Ibrani. Militer Israel mengatakan setiap percakapan telepon yang diterjemahkan dari bahasa Arab atau informasi intelijen yang digunakan untuk mengidentifikasi target harus ditinjau oleh petugas berbahasa Arab.
Kesalahan masih bisa terjadi karena berbagai alasan yang melibatkan AI, kata perwira militer Israel yang telah bekerja dengan sistem penargetan dan pakar teknologi lainnya. Seorang perwira intelijen mengatakan dia telah melihat kesalahan penargetan yang bergantung pada terjemahan mesin yang salah dari bahasa Arab ke bahasa Ibrani.
Misalnya, kata Arab yang menggambarkan pegangan pada tabung peluncuran granat berpeluncur roket sama dengan kata “pembayaran”. Dalam satu contoh, mesin menerjemahkannya salah, dan orang yang memverifikasi terjemahan tersebut awalnya tidak menangkap kesalahan tersebut, katanya, yang bisa saja menambahkan orang-orang yang berbicara tentang pembayaran ke dalam daftar target. “Petugasnya kebetulan ada di sana dan mengetahui masalahnya, “ujarnya.
Panggilan telepon yang disadap dan terkait dengan profil seseorang juga mencakup waktu orang tersebut menelepon serta nama dan nomor orang yang melakukan panggilan tersebut. Namun diperlukan langkah ekstra untuk mendengarkan dan memverifikasi audio asli, atau melihat transkrip terjemahan.
Terkadang data yang dilampirkan pada profil orang salah. Misalnya, sistem tersebut salah mengidentifikasi daftar siswa sekolah menengah atas yang berpotensi menjadi militan, menurut petugas tersebut. Sebuah spreadsheet Excel yang dilampirkan pada profil beberapa orang berjudul “final” dalam bahasa Arab, memuat setidaknya 1.000 nama siswa dalam daftar ujian di satu wilayah Gaza, katanya. Ini adalah satu-satunya bukti yang memberatkan yang dilampirkan pada arsip orang-orang, katanya, dan jika dia tidak mengetahui kesalahannya, orang-orang Palestina itu bisa saja salah ditandai.
Dia mengatakan dia juga khawatir bahwa para perwira muda, beberapa di antaranya masih berusia di bawah 20 tahun, yang berada di bawah tekanan untuk menemukan target dengan cepat dengan bantuan AI akan langsung mengambil kesimpulan.
AI saja dapat menghasilkan kesimpulan yang salah, kata tentara lain yang bekerja dengan sistem penargetan. Misalnya, AI mungkin menandai sebuah rumah milik seseorang yang terkait dengan Hamas namun tidak tinggal di sana. Sebelum rumahnya dihantam, manusia harus memastikan siapa sebenarnya yang ada di dalamnya, ujarnya.
“Jelas ada hal-hal yang saya jalani dengan damai dan hal-hal yang bisa saya lakukan dengan lebih baik dalam beberapa serangan yang ditargetkan yang merupakan tanggung jawab saya,” kata tentara itu kepada AP. “Ini perang, banyak hal terjadi, kesalahan terjadi, kami manusia.”
Tal Mimran bertugas selama 10 tahun sebagai petugas hukum cadangan untuk militer Israel, dan di tiga kelompok kerja NATO yang meneliti penggunaan teknologi baru, termasuk AI, dalam peperangan. Sebelumnya, katanya, dibutuhkan tim yang terdiri hingga 20 orang atau lebih setiap hari untuk meninjau dan menyetujui satu serangan udara. Sekarang, dengan sistem AI, militer menyetujui ratusan persetujuan dalam seminggu.
Mimran mengatakan ketergantungan yang berlebihan pada AI dapat memperkeras bias yang ada pada masyarakat. “Bias konfirmasi dapat menghalangi orang untuk menyelidiki sendiri,” kata Mimran, yang mengajar kebijakan hukum siber. “Beberapa orang mungkin malas, tapi yang lain mungkin takut melawan mesin dan berbuat salah serta membuat kesalahan.”
Ikuti Whatsapp Channel Republika