TikTok akan Otomatis Beri Label pada Konten yang Dihasilkan AI

REPUBLIKA.CO.ID, JAKARTA -- TikTok meningkatkan upayanya untuk secara otomatis memberi label pada konten yang dihasilkan kecerdasan buatan (AI) di aplikasinya, meskipun aplikasi tersebut dibuat dengan alat pihak ketiga. Perusahaan mengumumkan rencana untuk mendukung kredensial konten, semacam watermark digital yang menunjukkan penggunaan AI generatif. 

Dilansir Engadget, Kamis (9/5/2024), aturan-aturan  TikTok sudah mewajibkan para pembuat konten untuk mengungkapkan konten buatan AI yang “realistis”. Namun kebijakan tersebut mungkin sulit ditegakkan oleh perusahaan, terutama ketika pembuat konten menggunakan alat AI milik perusahaan-perusahaan  lain. 

Tetapi karena kredensial-kredensial konten semakin banyak digunakan di industri AI, label otomatis baru TikTok seharusnya mampu mengatasi beberapa kesenjangan tersebut. 

Sering digambarkan sebagai “label nutrisi untuk konten digital”, kredensial konten melampirkan “metadata anti-rusak” atau "tamper-evident metadata” yang dapat melacak asal-usul suatu gambar dan alat AI yang digunakan untuk mengeditnya selama proses tersebut. Riwayat tersebut kemudian dapat dilihat oleh pengguna jika mereka menemukan konten buatan AI pada platform yang mendukung teknologi tersebut. 

TikTok menyatakan bahwa mereka akan menjadi platform video pertama yang mendukung kredensial-kredensial konten, meskipun perlu beberapa waktu sebelum label-label ini menjadi lazim karena banyak perusahaan baru mulai mendukung teknologi tersebut. (Google, Microsoft, OpenAI, dan Adobe semuanya berjanji untuk mendukung kredensial konten. Meta mengatakan bahwa mereka juga menggunakan standar tersebut untuk memberi label pada platformnya.)

Namun, perlu diingat bahwa kredensial-kredensial  konten dan sistem-sistem lain yang mengandalkan metadata tidaklah mudah. OpenAI mencatat di halaman dukungan bahwa teknologi ini “bukan solusi terbaik” dan bahwa metadata “dapat dengan mudah dihapus baik secara tidak sengaja maupun sengaja.”

Label juga tidak akan efektif jika orang tidak mau membacanya. TikTok mengatakan pihaknya juga mempunyai rencana untuk mengatasi hal tersebut. 

Perusahaan ini telah bermitra dengan organisasi pengecekan fakta MediaWise dan organisasi hak asasi manusia Witness dalam serangkaian kampanye literasi media yang dimaksudkan untuk mengedukasi pengguna TikTok tentang label dan konten buatan AI yang “berpotensi menyesatkan”. 

Ikuti Whatsapp Channel Republika