Deepfake merupakan salah satu jenis dari teknologi kecerdasan buatan (AI) yang memungkinkan penggunanya untuk membuat video atau audio palsu yang tampak dan terdengar serupa dengan orang yang ditiru.

Modus kejahatan siber berbasis AI ini semakin meningkat dengan teknologi seperti GPT-3 yang mampu secara cepat menghasilkan konten visual hasil modifikasi yang sangat mirip dengan gaya bahasa dan perilaku individu yang ditiru.

Dampak yang diakibatkan oleh deepfake sangat signifikan, karena kerap disalahgunakan dalam modus kejahatan siber, yang tidak hanya merugikan, tetapi juga berpotensi menciptakan disinformasi dan misinformasi.

Menurut Steven Scheurmann, Regional Vice President, ASEAN, Palo Alto Networks, deepfake telah menjadi perhatian utama di Asia Tenggara, tak terkecuali Indonesia.

Di Indonesia, teknologi deepfake dapat menghadirkan sejumlah ancaman serius dengan penyalahgunaan dalam menjalankan aksi kejahatan siber, terutama dalam penipuan bermotif politik dan finansial.

Kemampuan teknologi ini untuk menyebarkan informasi palsu dalam waktu yang singkat berpotensi untuk menciptakan berbagai narasi yang menyesatkan, mengubah persepsi publik, merusak reputasi, dan menimbulkan konsekuensi yang serius.

Penyalahgunaan teknologi deepfake telah menarik perhatian mulai dari lembaga pemerintah hingga pakar keamanan siber, terutama selama periode pemilihan umum ketika informasi yang keliru dapat mempengaruhi opini pemilih.

Meskipun tahun 2024 diprediksi menjadi tahun pemungutan suara terbesar dalam sejarah, dampak deepfake tidak hanya terbatas pada ranah politik saja.

Tim peneliti Palo Alto Networks, Unit 42, telah menemukan banyak kampanye penipuan menggunakan video deepfake yang menampilkan kemiripan dengan berbagai tokoh publik, termasuk CEO, pembawa berita, dan pejabat pemerintah di seluruh dunia.

Sama halnya dengan deepfake dalam bentuk konferensi video yang mendapat perhatian besar, penipuan deepfake berbasis web juga merupakan ancaman baru yang harus diwaspadai.

''Pada Juni 2024, kami telah menemukan ratusan domain yang digunakan untuk mempromosikan jenis penipuan ini, dengan setiap domain diakses hingga 114.000 kali secara global sejak pertama kali ditayangkan. Namun, tidak seperti domain phishing atau malware pada umumnya, domain-domain ini relatif berumur panjang, dengan waktu aktif rata-rata 142 hari,'' ujar Scheurmann.

Kemunculan GenAI telah mempermudah pelaku ancaman untuk melakukan penipuan deepfake, sehingga sangat penting untuk mampu mendeteksi ancaman ini dari sebelumnya.

Agar dapat mengidentifikasi dan menghentikan ancaman deepfake yang terus berkembang secara proaktif, organisasi harus memperkuat pertahanan mereka dan meningkatkan upaya yang berfokus pada kombinasi analisis visual.

Selain itu, perlu adanya kesadaran akan kelemahan keamanan yang umum, dan penggunaan alat deteksi khusus—seperti Advanced URL Filtering yang dapat membantu mengkategorisasikan serta memblokir URL berbahaya secara real-time.

Ikuti Whatsapp Channel Republika