REPUBLIKA.CO.ID, JAKARTA -- Seorang ibu asal Florida (Amerika Serikat), Megan Garcia, menuduh chatbot berperan dalam kasus bunuh diri putranya bernama Sewell Setzer (14 tahun). Garcia mengatakan bulan-bulan menjelang peristiwa tragis itu, Setzer sangat terobsesi dengan chatboat bertenaga kecerdasan buatan.
Garcia mengajukan gugatan perdata terhadap Character.ai, chatbot yang dapat disesuaikan untuk permainan peran. Gugatan diajukan ke pengadilan federal Florida pada Rabu (23/10/2024). Dia menuduh Character.ai atas kelalaian, kematian yang salah, dan praktik perdagangan yang menipu.
Setzer meninggal di Orlando, Florida, pada Februari. Menurut Garcia, pada bulan-bulan menjelang kematiannya, Setzer menggunakan chatbot tersebut siang dan malam.
"Aplikasi chatbot AI berbahaya yang dipasarkan kepada anak-anak telah melecehkan dan memangsa putra saya, memanipulasinya untuk bunuh diri," kata Garcia dalam siaran pers dikutip dari laman The Guardian.
"Keluarga kami sangat terpukul oleh tragedi ini, tetapi saya berbicara untuk memperingatkan keluarga tentang bahaya teknologi AI yang menipu dan membuat ketagihan dan menuntut pertanggungjawaban dari Character.AI, para pendirinya, dan Google," ujarnya lagi.
Ikuti Whatsapp Channel Republika