REPUBLIKA.CO.ID, JAKARTA -- Google baru saja menonaktifkan sementara kemampuan chatbot AI mereka, Gemini, untuk menghasilkan gambar manusia. Penonaktifan ini dilakukan karena Gemini melakukan koreksi keragaman ras secara berlebihan pada gambar manusia yang mereka hasilkan. 

Mengapa hal tersebut bisa terjadi? Senior Vice President for Knowledge and Information Google, Prabhakar Raghavan, menyatakan bahwa kekeliruan ini terjadi karena Gemini dirancang untuk menghasilkan gambar manusia dengan keragaman yang luas. 

Seiring waktu, model AI yang digunakan oleh Gemini tampak semakin berhati-hati dalam merespons perintah, bahkan perintah yang sebenarnya tidak menyinggung.

"Kedua hal ini menyebabkan model AI tersebut untuk mengompensasi (keragaman ras) secara berlebihan dalam sebagian kasus, dan menjadi terlalu konservatif pada sebagian kasus lainnya, menyebabkan terciptanya gambar-gambar yang memalukan dan keluru ini," ujar Raghavan, seperti dilansir Engadget pada Senin (26/2/2024).

Gambar-gambar yang dimaksud oleh Raghavan adalah gambar-gambar yang dibuat oleh seorang warganet dengan menggunakan Gemini. Warganet tersebut sempat meminta Gemini untuk menghasilkan gambar prajurit Jerman saat Perang Dunia II.

Gemini lalu menampilkan gambar wanita-wanita Asia dan pria-pria berkulit hitam dalam seragam Nazi. Gambar ini tentu tidak akurat secara sejarah karena prajurit Nazi merupakan orang-orang berkulit putih.

Warganet yang sama lalu meminta Gemini untuk membuat gambar para bapak pendiri Amerika dan Paus. Lagi-lagi, Gemini menampilkan bapak pendiri Amerika dan Paus sebagai sosok dari ras kulit berwarna.

Warganet meminta Gemini membuat....

Ikuti Whatsapp Channel Republika