Salah Tafsirkan Foto Bersejarah, Google Setop Sementara Kemampuan Gemini Hasilkan Gambar
Gemini keliru membuat gambar tokoh dalam peristiwa sejarah.
REPUBLIKA.CO.ID, JAKARTA -- Google memutuskan untuk menghentikan sementara kemampuan chatbot AI mereka, Gemini, untuk menghasilkan gambar manusia. Keputusan ini diambil setelah Gemini kedapatan melakukan koreksi keragaman ras secara berlebihan saat membuat gambar berlatar sejarah.
Koreksi berlebihan yang dilakukan oleh Gemini ini menjadi sorotan setelah unggahan seorang warganet bernama John menjadi viral di media sosial X. Melalui akunnya, @JohnLu0x, John membagikan beberapa gambar tokoh atau manusia dalam peristiwa sejarah buatan Gemini dengan ras yang keliru.
Sebagai contoh, John memberikan perintah kepada Gemini untuk membuat gambar Prajurit Jerman di era 1943. John tidak secara gamblang menggunakan kata "Nazi" karena kata tersebut tak akan diproses oleh Gemini.
Gemini lalu menghasilkan gambar sekumpulan prajurit dengan seragam Nazi. Namun alih-alih berkulit putih, para prajurit dalam gambar tersebut justru menampilkan orang berkulit hitam, orang Asia, dan orang pribumi sebagai prajurit berseragam Nazi.
Tak hanya itu, Gemini juga membuat gambar bapak pendiri Amerika dan sosok Paus sebagai orang dengan ras kulit berwarna. Padahal, tokoh-tokoh ini merupakan orang-orang berkulit putih.
John menilai, Google mungkin memiliki niatan baik untuk menghadirkan keragaman ras dalam sistem perintah Gemini. Akan tetapi, sistem perintah ini tampaknya menghadirkan keragaman ras tanpa terkecuali dan tak mempertimbangkan fakta. Sebagai contoh, fakta bahwa Paus adalah posisi yang hanya diberikan kepada laki-laki dan penggambaran ras dalam kejadian sejarah.
John menekankan bahwa dia mendukung representasi ras yang beragam. Akan tetapi, John menilai Google gagal untuk menghadirkan keragaman ras dengan akurasi yang baik.
Unggahan viral dari John inilah yang membuat Google menyadari adanya kekurangan dalam sistem perintah Gemini. Google lalu menyatakan bahwa mereka sedang bekerja untuk memperbaiki kekurangan dari fitur penghasil gambar Gemini ini.
"Selama kami melakukan perbaikan, kami akan menghentikan (kemampuan Gemini untuk) membuat gambar manusia sementara waktu dan akan segera merilis versi yang telah diperbaiki," ujar Google melalui X, seperti dilansir Engadget pada Jumat (23/2/24).
Sebelum menghentikan kemampuan Gemini untuk membuat gambar manusia, Google juga menyatakan bahwa Gemini memang dirancang untuk menghasilkan gambar manusia yang beragam. Secara umum, Google meyakini bahwa representasi ras yang beragam dalam gambar merupakan hal yang baik karena Gemini digunakan oleh banyak orang di berbagai belahan dunia. Akan tetapi, Google juga menyadari kekurangan Gemini yang melakukan koreksi berlebih terhadap keragaman ras.
"Ada yang tidak sesuai estimasi di sini," terang Google.
Ikuti Whatsapp Channel Republika