REPUBLIKA.CO.ID, JAKARTA -- Mimpi buruk bahwa kecerdasan buatan (AI) digunakan untuk hal negatif kini telah membayangi internet. Temuan Internet Watch Foundation (IWF) mengungkap bahwa AI telah dipakai untuk membuat foto-foto berbau seksual dari para selebritas, tapi dalam versi anak-anak.
Dikutip dari laman Daily Mail, Jumat (27/10/2023), ditemukan hampir 3.000 gambar sintetis yang diunggah ke satu forum darkweb atau darknet alias web gelap dalam sebulan. Wajah dan tubuh anak-anak asli digunakan untuk melatih AI yang mampu menghasilkan ribuan gambar pelecehan baru.
Banyak dari gambar-gambar ini sangat realistis sehingga bahkan penyelidik terlatih pun akan kesulitan membedakan dari foto sebenarnya. Menurut IWF, ada tren yang berkembang di mana satu gambar seorang korban pelecehan diambil dan digunakan untuk membuat lebih banyak gambar korban di lingkungan berbeda.
Ada satu folder yang ditemukan di forum itu berisi 501 gambar korban pelecehan seksual yang sebenarnya. Korban berusia antara 9-10 tahun saat dia mengalami pelecehan. Folder tersebut memuat model AI yang telah disempurnakan dengan instruksi tentang cara menghasilkan gambar baru dari korban.
Kepala eksekutif IWF, Susie Hargreaves, berpendapat bahwa ini adalah cara-cara mengerikan yang tidak pernah terbayangkan sebelumnya. Dari 2.978 gambar AI yang ditemukan di forum tersebut, lebih dari 20 persen diklasifikasikan sebagai Kategori A, bentuk penyalahgunaan paling serius.
Lebih dari setengahnya menggambarkan anak-anak usia sekolah dasar, berusia antara tujuh dan 10 tahun, sementara 143 lainnya menggambarkan anak-anak antara tiga dan enam tahun. Peneliti juga menemukan dua gambar yang menggambarkan penganiayaan seksual terhadap bayi di bawah dua tahun.
Temuan lain, ada ratusan foto dua gadis dari pemotretan dengan busana lengkap yang diambil dari sebuah agen model dan dimanipulasi untuk memasukkan mereka ke dalam adegan pelecehan Kategori A. Hargreaves mengatakan bahwa jumlah dan kecanggihan gambar telah mencapai tingkatan baru. "Jika kita tidak mengatasi ancaman ini, konten tersebut akan membanjiri internet," ujarnya.
Temuan laporan muncul di tengah kekhawatiran yang lebih luas mengenai prevalensi gambar pelecehan seksual yang dihasilkan oleh AI. Meskipun tidak ada anak-anak yang dianiaya secara fisik dalam pembuatan gambar-gambar ini, terdapat kerugian psikologis yang signifikan bagi korban.
IWF mengecam hal itu, sebab sama saja dengan menganggap perilaku predator seksual sebagai hal yang normal. Terlebih, IWF juga menjumpai banyak komentar meresahkan para paedofil di forum darknet yang memuji kualitas gambar tersebut dan mendiskusikan cara menghasilkan lebih banyak gambar.
Web gelap atau darknet adalah istilah umum untuk jaringan di internet yang tidak dapat diakses oleh mesin pencari atau browser biasa. Terpisah dari surface web atau clearnet, bisa dibilang darknet adalah jaringan komputer dan server individual yang hanya dapat diakses melalui alat tertentu.
Darknet bisa berupa jaringan kecil yang terdiri dari beberapa komputer pribadi atau jaringan besar yang populer seperti Tor, Freenet, atau I2P. Konten dan lalu lintas di web gelap sering kali dienkripsi dan dialihkan melalui banyak tujuan berbeda sehingga pengguna tetap anonim.
Meskipun digunakan untuk aktivitas nonkriminal seperti pelaporan pelanggaran atau menghindari sensor, web gelap sering kali digunakan oleh penjahat. Pasar narkotika besar, pedagang senjata, penjahat dunia maya, dan situs pelecehan seksual terhadap anak semuanya ada di darknet.
Ikuti Whatsapp Channel Republika