REPUBLIKA.CO.ID, DEN HAAG - Indonesia harus mulai mempersiapkan diri untuk pengembangan kecerdasan buatan (artificial intelligence/AI) dalam militer karena perang di masa depan adalah perang siber yang semua berbasis AI, kata Pengamat kebijakan luar negeri Dino Patti Djalal.

Dino mengatakan bahwa dalam strategi kecerdasan buatan Indonesia, AI belum masuk dalam ranah militer.

"Kementerian Pertahanan dan TNI harus mulai memikirkan next generation of disruptive military warfare (senjata perang generasi mendatang)," kata Dino disela-sela konferensi REAIM 2023 di Den Haag, Kamis (16/2/2023) waktu setempat.

REAIM 2023 adalah platform bagi semua pemangku kepentingan untuk membahas peluang, tantangan, dan risiko utama yang terkait dengan penggunaan kecerdasan buatan di dunia militer.

Perang di masa depan adalah perang drone, perang siber, ujar pendiri Komunitas Kebijakan Luar Negeri Indonesia (FPCI) itu.

"Ancaman sudah berubah. Tidak bisa kita hanya mengandalkan artileri saja. Senjata kita di bidang (AI) ini apa. Belum ada," kata Dino.

Di bidang demokrasi, menurut dia, kecerdasan buatan digunakan untuk "mencuci otak" orang.

"Sekarang tidak ada lagi diktator tapi 'otak kita dicuci' sehingga kita tadi lagi punya kebebasan berkehendak. Sosial media menjadi alat untuk mind control (mengendalikan pikiran)," ujarnya.

Ia mengakui bahwa investasi Indonesia di bidang kecerdasan buatan masih sangat minim. "Kalau kita menyadari bahwa AI itu masa depan maka kita harus investasi dari sekarang dan jangan tanggung-tanggung," tegasnya.

Terkait penggunaan senjata berbasis kecerdasan buatan ini, Dino menilai standar etika merupakan hal yang penting, selain kendali manusia.

"Artinya, jika ada situasi perang mesin harus membuat keputusan dengan kendali manusia. Tetapi kalau orangnya tidak mempunyai standar moral, maka keputusannya juga tidak akan bagus. Jadi bukan hanya masalah manusia harus mengontrol, tapi manusianya sendiri juga harus punya standar etika," jelas dia.

Sementara untuk penggunaan senjata pemusnah massal, menurut dia, dalam skenario apapun tidak diperbolehkan. "Paling tidak harus ada standard. Jadi nanti kalau ada pakta mengenai AI tidak boleh ada penggunaan AI yang menimbulkan kerugian pada manusia. Harus transparan senjata apa yang mereka punya," katanya.

Dalam sesi diskusi yang digelar sebelumnya, Dino menggarisbawahi pentingnya pengaturan dalam pemanfaatan kecerdasan buatan di sektor militer.

"Tantangan utama adalah governance (tata kelola). AI adalah penemuan paling penting dalam sejarah namun kita tidak tahu muara dari perkembangan teknologi ini," kata dia.

Kecerdasan buatan, lanjut dia, harus diakui membawa keuntungan di berbagai bidang. Oleh karenanya, tata kelola menjadi faktor penting bagi perkembangan AI sehingga akan membawa keuntungan positif bagi manusia.

Sementara Sekretaris Jendral Amnesty International Agns Callamard mengatakan kekhawatiran paling utama terkait penggunaan kecerdasan buatan adalah tidak adanya pengaturan.

"Sama sekali tidak ada batas yang jelas dan bisa dipahami dimana untuk ini diperlukan konsensus," kata Agnes.

Ia mengkhawatirkan tidak adanya kemauan politik dan dorongan untuk mengatur pemanfaatan kecerdasan buatan ini, kurangnya transparansi serta penggunaan AI terutama di ranah militer, yang mempengaruhi hak asasi manusia.

Pengaturan kecerdasan buatan dalam militer juga sepatutnya tidak didasarkan pada analisa situasi di satu tempat saja, seperti dalam hal perang di Ukraina, sehingga terjadi bias.

Perang juga terjadi di tempat-tempat lain. Pengaturan AI harus didasarkan pada kasus-kasus yang merata, ujar Agnes.

"Janganlah kita membodohi diri sendiri. Semua orang punya potensi untuk melakukan hal buruk. Kita berada di awal terjadinya masalah besar. Juga titik awal bagi kita untuk melakukan hal buruk, dan itu sudah berulangkali terjadi dalam sejarah," tegas Agnes.

Ikuti Whatsapp Channel Republika