REPUBLIKA.CO.ID, KALKUTA -- Saat pemilih mengantri untuk memberikan hak suara mereka dalam pemilihan legislatif untuk memilih pemerintahan Negara Bagian Telangana, India, pada 30 November tahun lalu, muncul video tujuh menit yang viral di media sosial.
Video itu diunggah Partai Kongres yang merupakan partai oposisi pemerintah nasional dan Telangana ketika itu. Video tersebut menunjukkan ketua Partai Bharat Rashtra Samiti yang berkuasa saat itu KT Rama Rao mengajak pemilih memilih Partai Kongres.
Seorang pemimpin senior Partai Kongres yang tidak bersedia disebutkan namanya mengatakan awalnya video itu hanya dibagikan di grup-grup WhatsApp "tidak resmi" partai. Tapi akhirnya diunggah di akun resmi media sosial X partai tersebut dan dilihat sebanyak 50 juta kali.
Ternyata video itu palsu. "Tentu menggunakan teknologi kecerdasan artifisial (AI) meski terlihat sangat nyata," kata pimpinan Partai Kongres tersebut pada Aljazirah.
"Namun normal bila pemilih tidak bisa membedakannya, pemungutan suara sudah dimulai ketika video itu diunggah dan tidak ada waktu untuk menggelar kampanye tandingan untuk mengendalikan kerusakan," tambahnya.
Deepfake yang diunggah di waktu yang tepat itu menandai banjirnya kampanye yang dihasilkan atau dimanipulasi AI yang merusak berbagai pemilihan di negara-negara bagian India beberapa bulan terakhir. AI juga dianggap menjadi ancaman bagi pemilihan umum yang akan datang.
Antara Maret sampai Mei, hampir satu miliar pemilih yang akan memilih pemerintah berikutnya dalam pemilihan umum terbesar sepanjang sejarah India. Pada November 2023, Menteri Teknologi Informasi India Ashwini Vaishnaw menyebut deepfakes "ancaman bagi demokrasi." Perdana Menteri India Narendra Modi juga menyuarakan keprihatinan serupa.
Namun tim yang menggelar 40 kampanye baru-baru ini mengatakan karena banyaknya alat AI yang berguna, banyak tim kampanye di berbagai partai politik India termasuk partai yang dipimpin Modi, Bharatiya Janata (BJP) dan Partai Kongres menggunakan deepfake untuk mempengaruhi pemilih.
Beberapa perangkat lunak untuk memproduksi gambar deepfake bersifat gratis sementara beberapa lainnya menawarkan layanan berlangganan yang paling murah 10 sen dolar AS per video. BJP dianggap partai dengan teknologi yang paling canggih di India.
Partai berkuasa itu menjadi garda depan dalam penggunaan teknologi ilusi di kampanye. Pada tahun 2012 lalu BJP menggunakan proyeksi hologram tiga dimensi yang membuat seakan-akan Modi menggelar "kampanye" di berbagai tempat di waktu yang sama. Strategi serupa dilakukan pada pemilihan umum 2014 yang membawa Modi ke tampuk kekuasaan.
Tidak banyak penipuan dalam kampanye itu tapi pada Februari 2020, anggota parlemen BJP Manoj Tiwari menjadi politisi pertama di dunia yang menggunakan deepfake untuk kampanye. Ia merilis tiga video dalam bahasa bahasa Hindi, Haryanvi dan Inggris untuk kampanye pemilihan anggota legislatif di kota Dehli, untuk meraup suara dari tiga kelompok yang berbeda.
Hanya video berbahasa Hindi yang asli. Dua bahasa lainnya merupakan deepfake. Ia menggunakan AI untuk menghasilkan suara dan kata-kata sementara ekspresi wajah dan gerakan bibir hampir mustahil untuk mendeteksi video itu dihasilkan AI.
Beberapa bulan terakhir Partai Dravida Munnetra Kazhagam (DMK) yang menguasai Negara Bagian Tamil Madu juga menggunakan AI untuk membangkitkan kembali pemimpin ikoniknya M Karunanidhi dari kematian. DMK menggunakan deepfake Karunanidhi dalam kegiatan-kegiatan kampanyenya.
Kini tim dan konsultan kampanye mengatakan pemilihan umum 2024 akan mendorong penggunaan deepfake lebih jauh lagi. "Politik adalah tentang menciptakan persepsi, dengan alat-alat AI, modulasi suara dan video dan klik, anda bisa mengubah persepsi di kepala dalam hitungan menit," kata koordinator media sosial Partai Kongres, Arun Reddy.
Ia yang memimpin kampanye Partai Kongres di Negara Baigan Telengana. Reddy menambahkan, timnya memiliki banyak ide untuk menggunakan AI dalam kampanye tapi mereka tidak memiliki cukup banyak orang yang "terlatih" untuk melakukan semuanya. Reddy sedang memperkuat timnya.
"AI memberi efek besar dalam menciptakan narasi, konten politik yang dimanipulasi AI akan meningkat berkali-kali lipat, jauh lebih besar dari sebelumnya,” tambahnya. Dari kota gurun Pushkar di India barat, Divyendra Singh Jadoun yang berusia 30 tahun mengelola perusahaan rintisan AI, The Indian Deepfaker.
Perusahaan Produsen Deepfake
Diluncurkan pada Oktober 2020, perusahaannya mengkloning suara kandidat dari Partai Kongres negara bagian Rajasthan, Ashok Gehlot, agar timnya dapat mengirimkan pesan yang dipersonalisasi di WhatsApp, menyapa setiap pemilih dengan nama mereka, selama pemilihan umum pada November 2023.
Saat ini The Indian Deepfaker sedang bekerja sama dengan tim kampanye politisi negara bagian Sikkim, Prem Singh Tamang, untuk membuat hologram dalam kampanye yang akan datang. Sikkim salah satu negara bagian terkecil di India yang terletak di bagian timur laut, bertengger di Himalaya di antara India, Bhutan, dan Cina.
Jadaoun mengatakan pekerjaannya resmi dan tak melanggar hukum. Tetapi beberapa bulan terakhir, ia dibanjiri apa yang ia gambarkan sebagai "permintaan yang tidak etis" untuk kampanye-kampanye politik. "Partai-partai politik menghubungi secara tidak langsung melalui nomor internasional di WhatsApp, akun anonim di Instagram, atau melalui Telegram," kata Jadoun.
Ia mengaku, perusahaannya menolak lebih dari 50 permintaan seperti itu dalam pemilihan bulan November lalu. Permintaan-permintaan itu memintanya membuat video dan audio yang menyerang lawan politik, termasuk dengan pornografi.
Sebagai perusahaan rintisan, Jadoun mengatakan perusahaannya menghindari masalah hukum. "Dan ini merupakan penggunaan AI yang sangat tidak etis, tapi saya tahu banyak orang yang melakukannya dengan harga yang sangat murah dan sudah tersedia sekarang," katanya.
Selama pemilihan umum badan legislatif negara bagian Madhya Pradesh dan Rajasthan bulan November lalu, polisi mendapat beberapa laporan kasus video palsu yang mengincar para politisi senior termasuk Modi, Shivraj Singh Chauhan, Kailash Vijayvargia (semuanya dari BJP) dan Kamal Nath (Kongres).
Produksi konten deepfake seringkali dialihdayakan ke perusahaan swasta yang kemudian menyebarkannya lewat media sosial termasuk aplikasi kirim-pesan WhatsApp.
Seorang konsultan politik yang tidak bersedia disebutkan namanya mengatakan sejumlah warga negara biasa yang tidak memiliki profil publik didaftarkan lewat WhatsApp dan digunakan untuk kampanye untuk mempersulit siapa pun untuk melacak mereka secara langsung ke partai, kandidat, konsultan, dan perusahaan AI.
Konsultan ini menjalankan enam kampanye dalam pemilihan legislatif tahun lalu untuk BJP dan Partai Kongres. "Di Rajasthan, kami menggunakan nomor telepon para pekerja konstruksi untuk menjalankan jaringan kami di WhatsApp, di mana deepfake terutama beredar," katanya.
Sementara itu, audio yang dimanipulasi AI adalah alat yang sangat berharga di konstituen yang lebih kecil. "Dengan mengincar para kandidat dengan rekaman suara palsu tentang pengaturan 'uang hitam' untuk pemilihan umum atau mengancam seseorang untuk membeli suara," ungkap konsultan itu, yang kandidatnya sendiri menjadi sasaran salah satu rekaman tersebut.
Rekaman tersebut biasanya ditutupi dengan suara kandidat untuk menunjukkan rekaman tersebut adalah bukti korupsi. "Memanipulasi pemilih dengan AI tidak dianggap sebagai dosa oleh pihak manapun, itu hanya bagian dari strategi kampanye," katanya. India memiliki 760 juta pengguna internet lebih dari 50 persen populasi hanya kalah dari Cina.
Ikuti Whatsapp Channel Republika