Orang Tua di Florida Gunakan AI Sebagai Protes Atas Undang-Undang Senjata

REPUBLIKA.CO.ID, JAKARTA -- Sebuah proyek baru yang berani, menimbulkan pertanyaan etis tentang penggunaan AI dalam membuat audio deepfake. Hal ini dilakukan oleh orang tua dari seorang remaja yang terbunuh dalam penembakan di sekolah Parkland, Florida, pada 2018.

Orang tua itu telah memulai proyek baru yang berani bernama The Shotline untuk melobi undang-undang senjata yang lebih ketat di Amerika Serikat.

The Wall Street Journal melaporkan, The Shotline menggunakan AI untuk menciptakan kembali suara anak-anak yang terbunuh akibat kekerasan bersenjata, dan mengirimkan rekamannya melalui panggilan otomatis ke anggota parlemen.

Proyek ini diluncurkan pada Rabu (14/2/2024), enam tahun setelah seorang pria bersenjata membunuh 17 orang dan melukai lebih dari selusin orang di sebuah sekolah menengah di Parkland, Florida. Film ini menampilkan suara enam anak, beberapa di antaranya berusia 10 tahun, dan orang dewasa muda, yang kehilangan nyawa dalam insiden kekerasan senjata di seluruh AS.

Setelah Anda mengetikkan kode pos, The Shotline menemukan perwakilan lokal Anda dan memungkinkan Anda melakukan panggilan otomatis kepada salah satu dari enam orang yang tewas dengan suara mereka sendiri, mendesak undang-undang pengendalian senjata yang lebih kuat.

“Saya kembali hari ini karena orang tua saya menggunakan AI untuk menciptakan kembali suara saya untuk menelepon Anda. Korban lain seperti saya juga akan menelepon,” kata Joaquin Oliver, salah satu remaja yang tewas dalam penembakan Parkland, dengan suara yang dihasilkan AI.

Pada saat berita ini diterbitkan, lebih dari 8.000 panggilan AI telah disampaikan kepada anggota parlemen melalui situs web.

“Ini adalah masalah Amerika Serikat dan kami belum dapat memperbaikinya. Jika kita perlu menggunakan hal-hal yang menyeramkan untuk memperbaikinya, selamat datang di dunia yang menyeramkan,” kata ayah Oliver, Manuel, yang memulai proyek tersebut bersama istrinya Patricia.

Untuk menciptakan kembali suara-suara tersebut, keluarga Oliver menggunakan layanan kloning suara dari ElevenLabs, sebuah startup berusia dua tahun yang baru-baru ini mengumpulkan 80 juta dollar AS dalam putaran pendanaan yang dipimpin oleh Andreessen Horowitz.

Hanya dengan menggunakan sampel....

Hanya dengan menggunakan sampel vokal selama beberapa menit, perangkat lunak ini mampu menciptakan kembali suara dalam lebih dari dua lusin bahasa. Keluarga Oliver dilaporkan menggunakan postingan media sosial putra mereka untuk sampel suaranya.

Orang tua dan wali sah dari korban kekerasan senjata dapat mengisi formulir untuk mengirimkan suara kerabat mereka ke The Shotline untuk ditambahkan ke gudang suara yang dihasilkan AI.

Proyek ini menimbulkan pertanyaan etis tentang penggunaan AI untuk menghasilkan suara palsu milik orang mati. Pekan lalu, Komisi Komunikasi Federal menyatakan bahwa robocall yang dibuat menggunakan suara yang dihasilkan AI adalah ilegal. 

Keputusan itu diambil beberapa pekan setelah para pemilih di New Hampshire menerima telepon yang meniru Presiden Joe Biden yang meminta mereka untuk tidak memilih dalam pemilihan pendahuluan di negara bagian mereka. Analisis yang dilakukan oleh perusahaan keamanan bernama Pindrop mengungkapkan, audio deepfake Biden dibuat menggunakan perangkat lunak dari ElevenLabs.

Salah satu pendiri perusahaan, Mati Staniszewski mengatakan, ElevenLabs mengizinkan orang untuk menciptakan kembali suara kerabat yang telah meninggal jika mereka memiliki hak dan izin. Namun sejauh ini, belum jelas apakah orang tua dari anak di bawah umur itu mempunyai hak atas kemiripan suara anak mereka.

Ikuti Whatsapp Channel Republika