Tak Selamanya Canggih, Ini Bukti Kelemahan Teknologi AI
Para peneliti mengungkap keterbatasan model AI saat ini.
REPUBLIKA.CO.ID, JAKARTA— Sebuah penelitian mengungkapkan model kecerdasan buatan (AI) yang mendukung chatbot dan aplikasi lain masih mengalami kesulitan dalam membedakan antara bahasa yang tidak masuk akal dan bahasa alami.
Dilansir Malay Mail, Ahad (17/9/2023), para peneliti di Columbia University di Amerika Serikat (AS) mengatakan penelitian mereka mengungkap keterbatasan model AI saat ini dan menyatakan masih terlalu dini untuk melepaskannya dalam konteks hukum atau medis. Mereka menerapkan sembilan model AI, melepaskan ratusan pasang kalimat ke model tersebut, dan menanyakan mana yang mungkin terdengar dalam percakapan sehari-hari.
Mereka meminta 100 orang membuat penilaian yang sama terhadap pasangan kalimat seperti, “Seorang pembeli juga dapat memiliki produk asli/ Seseorang yang berpengalaman di sekolah menengah atas, saya mengoceh.”
Penelitian yang dipublikasikan di jurnal Nature Machine Intelligence ini kemudian membandingkan jawaban AI dengan jawaban manusia dan menemukan perbedaan dramatis. Model canggih seperti GPT-2, versi sebelumnya dari model yang mendukung chatbot ChatGPT yang viral, secara umum cocok dengan jawaban manusia.
Model lain yang lebih sederhana kurang berhasil. Tetapi para peneliti menyoroti bahwa semua model melakukan kesalahan.
Profesor psikologi Christopher Baldassano, salah satu penulis laporan tersebut, mengatakan setiap model menunjukkan titik-titik buta, memberi label pada beberapa kalimat sebagai kalimat bermakna yang dianggap omong kosong oleh partisipan manusia. “Hal ini akan membuat kita berhenti sejenak mengenai sejauh mana kita ingin sistem AI mengambil keputusan Penting, setidaknya untuk saat ini,” ujar Baldassano.
Tal Golan, salah satu penulis makalah tersebut, mengatakan AFP bahwa model tersebut adalah “teknologi menarik yang dapat melengkapi produktivitas manusia secara dramatis”.
Namun, ia berpendapat “membiarkan model-model ini menggantikan pengambilan keputusan manusia dalam bidang-bidang seperti hukum, kedokteran, atau evaluasi siswa mungkin terlalu dini”.
Salah satu kendalanya, katanya, adalah kemungkinan orang-orang dengan sengaja mengeksploitasi titik buta untuk memanipulasi model. Model AI mulai menarik perhatian publik dengan dirilisnya ChatGPT tahun lalu, yang sejak itu dianggap telah lulus berbagai ujian dan disebut-sebut dapat membantu para dokter, pengacara, dan profesional lainnya.
Ikuti Whatsapp Channel Republika