REPUBLIKA.CO.ID, JAKARTA -- Sebuah proyek baru yang berani, menimbulkan pertanyaan etis tentang penggunaan AI dalam membuat audio deepfake. Hal ini dilakukan oleh orang tua dari seorang remaja yang terbunuh dalam penembakan di sekolah Parkland, Florida, pada 2018.
Orang tua itu telah memulai proyek baru yang berani bernama The Shotline untuk melobi undang-undang senjata yang lebih ketat di Amerika Serikat.
The Wall Street Journal melaporkan, The Shotline menggunakan AI untuk menciptakan kembali suara anak-anak yang terbunuh akibat kekerasan bersenjata, dan mengirimkan rekamannya melalui panggilan otomatis ke anggota parlemen.
Proyek ini diluncurkan pada Rabu (14/2/2024), enam tahun setelah seorang pria bersenjata membunuh 17 orang dan melukai lebih dari selusin orang di sebuah sekolah menengah di Parkland, Florida. Film ini menampilkan suara enam anak, beberapa di antaranya berusia 10 tahun, dan orang dewasa muda, yang kehilangan nyawa dalam insiden kekerasan senjata di seluruh AS.
Setelah Anda mengetikkan kode pos, The Shotline menemukan perwakilan lokal Anda dan memungkinkan Anda melakukan panggilan otomatis kepada salah satu dari enam orang yang tewas dengan suara mereka sendiri, mendesak undang-undang pengendalian senjata yang lebih kuat.
“Saya kembali hari ini karena orang tua saya menggunakan AI untuk menciptakan kembali suara saya untuk menelepon Anda. Korban lain seperti saya juga akan menelepon,” kata Joaquin Oliver, salah satu remaja yang tewas dalam penembakan Parkland, dengan suara yang dihasilkan AI.
Pada saat berita ini diterbitkan, lebih dari 8.000 panggilan AI telah disampaikan kepada anggota parlemen melalui situs web.
“Ini adalah masalah Amerika Serikat dan kami belum dapat memperbaikinya. Jika kita perlu menggunakan hal-hal yang menyeramkan untuk memperbaikinya, selamat datang di dunia yang menyeramkan,” kata ayah Oliver, Manuel, yang memulai proyek tersebut bersama istrinya Patricia.
Untuk menciptakan kembali suara-suara tersebut, keluarga Oliver menggunakan layanan kloning suara dari ElevenLabs, sebuah startup berusia dua tahun yang baru-baru ini mengumpulkan 80 juta dollar AS dalam putaran pendanaan yang dipimpin oleh Andreessen Horowitz.
Hanya dengan menggunakan sampel....
Ikuti Whatsapp Channel Republika