REPUBLIKA.CO.ID, JAKARTA---Polisi di China telah menindak dua geng yang menggunakan ChatGPT untuk membuat video palsu. Salah satu sebaran terjadi pada Mei sementara yang lainnya pada Juni.
ChatGPT adalah chatbot AI yang dikembangkan oleh OpenAI yang didukung Microsoft, memungkinkan penggunanya menghasilkan tanggapan berdasarkan permintaan dan pertanyaan pengguna.
Belakangan ini, ChatGPT telah digunakan untuk membuat pemalsuan deep fake, yaitu gambar digital, video, atau media lain yang dipalsukan sehingga tampak nyata.
Lebih lanjut, Business Insider mengungkapkan bahwa pemalsuan lebih dalam yang dibuat menggunakan ChatGPT menjadi perhatian khusus, karena semakin canggih dan sulit dideteksi.
Polisi China menangkap dua geng yang terlibat dalam penggunaan ChatGPT untuk membuat video deep fake.
Sebuah laporan polisi dari provinsi Gansu, menyebutkan seorang tersangka yang merupakan bagian dari geng telah teridentifikasi bernama Hong.
Dia menggunakan ChatGPT untuk membuat artikel berita palsu, tentang kecelakaan yang diduga menyebabkan kematian sembilan pekerja konstruksi di Gansu. Kisah ini menjadi viral dan bahkan sumber berita resmi tertipu oleh cerita palsu tersebut.
Menurut Bloomberg, pada saat artikel itu dihapus, sudah ada 15 ribu penayangan. “Hong menggunakan teknologi modern untuk mengarang informasi palsu, menyebarkannya di internet,” kata polisi dalam sebuah pernyataan.
Kembali pada bulan Mei, polisi Shaoxing menemukan bahwa geng yang sama telah membeli sejumlah akun video secara ilegal, dan menggunakannya untuk membuat video palsu menggunakan ChatGPT.
Polisi juga menangkap seorang pria yang menggunakan ChatGPT untuk membuat berita palsu tentang kecelakaan kereta api.
Ini adalah salah satu tindakan penegakan hukum pertama di bawah undang-undang China, yang baru-baru ini diberlakukan mengatur deep fakes yang dihasilkan oleh AI. Menurut polisi, karya-karya geng itu tampak realistis tetapi mengarang gambar digital, video, atau media lain.
Hong mengakui dia menggunakan ChatGPT untuk membuat berita palsu tentang kecelakaan kereta sebelum mengunggahnya secara online. Penangkapan Hong adalah penahanan pertama sejak peraturan baru China tentang teknologi deep fake itu mulai berlaku pada Januari.
Undang-undang itu bertujuan untuk mencegah penyalahgunaan teknologi yang dapat mengubah data wajah dan suara. ChatGPT dilarang di Cina, tapi ada solusi seperti jaringan pribadi virtual.
Ikuti Whatsapp Channel Republika