REPUBLIKA.CO.ID, JAKARTA – Kehadiran AI telah menyebabkan lonjakan besar dalam penyebaran konten palsu (deepfake) secara online. Menurut platform verifikasi identitas, Sumsub, jumlah deepfake secara global meningkat empat kali dari tahun 2023 hingga 2024. Pada 2024, deepfake tercatat menyumbang 7 persen dari semua kasus penipuan, mulai dari peniruan identitas, pembajakan akun, hingga kampanye rekayasa sosial yang canggih.
Guna memerangi masalah deepfake, Meta merilis alat untuk menambahkan watermark pada klip video yang dihasilkan oleh AI. Alat yang disebut Meta Video Seal ini telah tersedia dalam bentuk open source dan dirancang untuk diintegrasikan ke dalam perangkat lunak yang sudah ada. Alat ini bergabung dengan alat watermarking Meta lainnya, seperti Watermark Anything dan Audio Seal.
“Kami mengembangkan Video Seal untuk memberikan solusi watermarking video yang lebih efektif, terutama untuk mendeteksi video yang dibuat oleh AI dan melindungi keasliannya,” ujar Pierre Fernandez, ilmuwan riset AI di Meta, seperti dilansir dari TechCrunch, Senin (16/12/2024).
Video Seal bukanlah teknologi pertama dalam kategori ini. Sebelumnya, DeepMind memperkenalkan SynthID, dan Microsoft juga memiliki teknologi watermarking video sendiri. Namun menurut Fernandez, teknologi yang ada masih memiliki banyak keterbatasan.
“Meskipun sudah ada alat watermarking lain, namun mereka tidak cukup tangguh terhadap kompresi video, sesuatu yang sering terjadi saat konten dibagikan di media sosial. Selain itu, sebagian besar alat tersebut tidak dirancang untuk berjalan dalam skala besar, tidak open source, atau hanya dikembangkan dari teknologi watermarking gambar yang kurang optimal untuk video,” kata Fernandez.
Selain watermark, Video Seal juga dapat menyisihkan pesan tersembunyi pada video yang nantinya dapat diungkap untuk mengetahui asal-usulnya. Meta mengeklaim bahwa Video Seal tahan terhadap pengeditan umum seperti pemburaman dan pemotongan, serta algoritme kompresi populer.
Di sisi lain, Fernandez mengakui, Video Seal memiliki keterbatasan tertentu, terutama dalam menyeimbangkan visibilitas watermark dan ketahanannya terhadap manipulasi. Kompresi yang berat dan pengeditan yang signifikan dapat mengubah watermark hingga tidak dapat dikenali.
Tantangan terbesar Video Seal adalah adopsi pengembang dan industri, terutama yang sudah menggunakan solusi propriety. Dalam upaya untuk mengatasi hal tersebut, Meta meluncurkan Meta Omni Seal Bench untuk membandingkan kinerja berbagai metode watermarking, dan menyelenggarakan lokakarya tentang watermarking tahun ini di ICLR, sebuah konferensi AI yang besar.
“Kami berharap semakin banyak peneliti dan pengembang AI yang mengintegrasikan beberapa bentuk watermarking ke dalam pekerjaan mereka. Kami ingin berkolaborasi dengan industri dan komunitas akademis untuk maju lebih cepat di bidang ini,” kata Fernandez.
Ikuti Whatsapp Channel Republika