Sebar Berita Palsu dengan ChatGPT, Pria Ini Diciduk Polisi

REPUBLIKA.CO.ID, JAKARTA---Seorang pria di China ditangkap karena mengarang berita tentang kecelakaan kereta api. Ia menyebarkan berita tersebut secara daring menggunakan teknologi AI terbaru, ChatGPT.

Ini merupakan penangkapan pertama di China dengan kasus penyalahgunaan ChatGPT. Polisi di provinsi Gansu mengatakan bahwa tersangka yang bermarga Hong itu ditangkap karena membuat informasi palsu menggunakan teknologi AI itu.

Dilansir dari India Today, Rabu (10/5/2023), kisah ini pertama kali diketahui oleh petugas keamanan dunia maya di daerah Kongtong, ketika mereka melihat artikel berita palsu yang mengklaim sembilan orang tewas dalam kecelakaan kereta api.

Kisah itu diunggah oleh lebih dari 20 akun di platform Tiongkok bernama Baijiahao. Kisah itu diklik lebih dari 15 ribu kali pada saat pihak berwenang mengetahuinya.

Polisi menelusuri asal-usul artikel tersebut ke sebuah perusahaan milik Hong, yang kini telah ditahan setelah mereka menggeledah rumah dan komputer Hong. Dia mengaku melewati fungsi pemeriksaan duplikasi Baijiahao dan mengunggah kisah palsu di banyak akun.

Dia menggunakan ChatGPT untuk dengan cepat membuat versi berbeda dari cerita palsu yang sama, dengan memasukkan elemen cerita sosial yang sedang tren dari tahun-tahun sebelumnya.

ChatGPT tidak langsung tersedia untuk alamat IP China, tetapi pengguna China masih dapat mengakses layanannya dengan koneksi VPN. Gerai IT China sedang bereksperimen dengan versi ChatGPT mereka, setelah Microsoft dan Google mengumumkan inovasi mereka.

China memantau media sosial dengan ketat melalui firewall, untuk memastikan tidak ada konten kritis terhadap Partai Komunis China (CPC) yang berkuasa.

Regulator internet ternama China khawatir bahwa penggunaan teknologi sintesis yang tidak terkendali, dapat menyebabkan penggunaannya dalam kegiatan kriminal seperti penipuan online atau pencemaran nama baik.

Karena ChatGPT semakin populer, lembaga penegak hukum China telah menyuarakan kecurigaan dan peringatan tentang teknologi tersebut. Pada Februari 2023, polisi Beijing memperingatkan masyarakat untuk mewaspadai rumor yang dibuat oleh ChatGPT.

Untuk diketahui, tersangka Hong dituduh memicu pertengkaran dan memprovokasi masalah, dan diancam hukuman maksimal lima tahun penjara. Namun, pelanggar dapat dipenjara selama 10 tahun dan diberikan hukuman tambahan jika pelanggarannya dianggap sangat berat.

Ini adalah pertama kalinya publik melihat penangkapan oleh otoritas China, setelah ketentuan pertama Beijing untuk mengatur penggunaan teknologi ‘deepfake’ yang secara resmi sudah berlaku pada Januari 2023.

Ikuti Whatsapp Channel Republika