REPUBLIKA.CO.ID, JAKARTA -- Seorang mantan pekerja Google Blake Lemoine yang dipecat belum lama ini mengklaim kecerdasan buatan (AI) perusahaan bertindak rasis. Lemoine dipecat setelah menerbitkan transkrip percakapan antara dirinya dan chatbot Google, LaMDA.
Lemoine mengatakan bot itu rasis dan penuh dengan prasangka dan bias yang dihasilkan dari data yang digunakan untuk membangunnya. Dia mengklaim ketika dia meminta LaMDA untuk membuat kesan tentang orang kulit hitam dari Georgia, bot itu mengatakan "Ayo beli ayam goreng dan wafel."
Selain kesan buruk terhadap orang kulit hitam, bot juga melakukannya terhadap Muslim. Saat ditanya soal kelompok agama yang berbeda, bot mengatakan "Muslim lebih kejam daripada umat Kristen."
Menurut Lemoine, masalah ini ada karena kurangnya keragaman dalam tim Google. "Jenis masalah yang ditimbulkan dari AI ini berasal dari orang-orang yang membangunnya. Mereka tidak pernah hidup di komunitas kulit berwarna atau tinggal di negara berkembang di dunia. Mereka tidak tahu bagaimana AI ini dapat mempengaruhi orang-orang yang tidak seperti mereka," kata Lemoine, dikutip Daily Star, Selasa (2/8/2022).
Selain itu, dia juga mengutip penggunaan data perusahaan dan mengklaim AI menunjukkan bias karena data itu diberikan oleh manusia. "Jika Anda ingin mengembangkan AI itu, maka Anda memiliki tanggung jawab moral untuk keluar dan mengumpulkan data relevan yang tidak ada di Internet. Jika tidak, yang Anda lakukan hanyalah menciptakan AI yang akan menjadi bias terhadap nilai-nilai Barat kulit putih yang kaya," ujarnya.
Google menanggapi klaim tersebut dengan mengatakan LaMDA telah menjalani 11 tinjauan etis. "Meskipun organisasi lain telah mengembangkan dan telah merilis model bahasa serupa, kami mengambil pendekatan yang terkendali dan hati-hati dengan LaMDA," kata Juru Bicara Google Brian Gabriel.
Menurut Google, Lemoine secara teknis dipecat karena membagikan informasi rahasia tentang proyek tersebut, bukan klaim soal LaMDA.
https://www.dailystar.co.uk/tech/news/fired-google-engineer-says-ai-27626743
Ikuti Whatsapp Channel Republika