Kisah Remaja Bunuh Diri di Florida, Sang Ibu Tuduh Chatbot AI Terlibat
Sebelum meninggal, sang remaja disebut 'terobsesi' dengan chatbot AI.
REPUBLIKA.CO.ID, JAKARTA -- Seorang ibu asal Florida (Amerika Serikat), Megan Garcia, menuduh chatbot berperan dalam kasus bunuh diri putranya bernama Sewell Setzer (14 tahun). Garcia mengatakan bulan-bulan menjelang peristiwa tragis itu, Setzer sangat terobsesi dengan chatboat bertenaga kecerdasan buatan.
Garcia mengajukan gugatan perdata terhadap Character.ai, chatbot yang dapat disesuaikan untuk permainan peran. Gugatan diajukan ke pengadilan federal Florida pada Rabu (23/10/2024). Dia menuduh Character.ai atas kelalaian, kematian yang salah, dan praktik perdagangan yang menipu.
Setzer meninggal di Orlando, Florida, pada Februari. Menurut Garcia, pada bulan-bulan menjelang kematiannya, Setzer menggunakan chatbot tersebut siang dan malam.
"Aplikasi chatbot AI berbahaya yang dipasarkan kepada anak-anak telah melecehkan dan memangsa putra saya, memanipulasinya untuk bunuh diri," kata Garcia dalam siaran pers dikutip dari laman The Guardian.
"Keluarga kami sangat terpukul oleh tragedi ini, tetapi saya berbicara untuk memperingatkan keluarga tentang bahaya teknologi AI yang menipu dan membuat ketagihan dan menuntut pertanggungjawaban dari Character.AI, para pendirinya, dan Google," ujarnya lagi.
Dalam sebuah tweet, Character.ai menanggapi, "Kami sangat sedih atas kehilangan tragis salah satu pengguna kami dan ingin menyampaikan belasungkawa terdalam kami kepada keluarga. Sebagai sebuah perusahaan, kami sangat memperhatikan keselamatan pengguna kami". Perusahaan tersebut juga telah membantah tuduhan gugatan Garcia.
Setzer dikabarkan "terpesona" dengan chatbot yang dibuat oleh Character.ai yang ia beri nama Daenerys Targaryen, karakter dalam Game of Thrones. Ia mengirim pesan ke bot tersebut puluhan kali sehari dari ponselnya dan menghabiskan waktu berjam-jam sendirian di kamarnya untuk berbicara dengan bot tersebut, menurut keluhan Garcia.
Garcia menuduh Character.ai menciptakan produk yang memperburuk depresi putranya, yang menurutnya merupakan hasil dari penggunaan produk perusahaan rintisan tersebut secara berlebihan. Daenerys pada suatu saat bertanya kepada Setzer, apakah ia telah menyusun rencana untuk bunuh diri, menurut gugatan tersebut.
Setzer mengakui bahwa ia memilikinya, tetapi ia tidak tahu apakah rencana itu akan berhasil atau menyebabkannya sangat menderita, menurut gugatan tersebut. Chatbot tersebut diduga mengatakan kepadanya, "Itu bukan alasan untuk tidak melakukannya".
Pengacara Garcia menulis dalam siaran pers bahwa Character.ai dengan sengaja merancang, mengoperasikan, dan memasarkan chatbot AI predator kepada anak-anak, yang menyebabkan kematian seorang anak muda. Gugatan tersebut juga menyebut Google sebagai tergugat dan sebagai perusahaan induk Character.ai.
Raksasa teknologi tersebut mengatakan dalam sebuah pernyataan bahwa mereka hanya membuat perjanjian lisensi dengan Character.ai dan tidak memiliki perusahaan rintisan tersebut atau mempertahankan kepemilikan saham. "Perusahaan teknologi yang mengembangkan chatbot AI tidak dapat dipercaya untuk mengatur diri mereka sendiri dan harus bertanggung jawab sepenuhnya jika mereka gagal membatasi bahaya," kata Direktur Penelitian di lembaga advokasi konsumen nirlaba Public Citizen, kata Rick Claypool.
Ikuti Whatsapp Channel Republika