REPUBLIKA.CO.ID, JAKARTA—Tim kecerdasan buatan (AI) Google sedang menguji chatbot yang mirip konsultan atau pelatih kehidupan pribadi. Chatbot ini akan bertugas memberikan nasihat kehidupan tentang berbagai topik mulai dari keputusan karier hingga masalah hubungan. Kabar ini dilaporkan New York Times pertama kali.

Dilansir The Independent, Sabtu (19/8/2023), raksasa teknologi tersebut dilaporkan telah bekerja sama dengan perusahaan pelatihan AI Scale AI untuk mengevaluasi chatbot “pelatih pribadi” yang baru tersebut.

Menurut New York Times, lebih dari 100 ahli dengan gelar doktor di berbagai bidang juga menguji bit tersebut dengan ketat.

Sejak lonjakan popularitas ChatGPT OpenAI, banyak perusahaan dan layanan teknologi, termasuk Google, Facebook, dan Snapchat telah berusaha mengembangkan versi teknologi AI generatif mereka sendiri untuk berinteraksi lebih baik dengan pengguna dan menawarkan respons seperti manusia terhadap pertanyaan. Namun, beberapa alat AI ini telah menimbulkan kekhawatiran atas validitas tanggapan mereka serta masalah privasi.

Para ahli juga menandai beberapa contoh chatbot yang membuat fakta dalam yang secara luas disebut “halusinasi AI” – masalah yang menurut banyak orang mungkin tidak dapat diperbaiki. Dalam satu contoh, organisasi nirlaba Amerika untuk mendukung mereka yang mengalami gangguan makan terpaksa menghapus chatbot AI-nya setelah terungkap bahwa ia menawarkan nasihat yang berbahaya alih-alih membantu orang.

Pakar AI terus memperingatkan bahwa meskipun chatbot semacam itu sangat pandai memberikan jawaban yang meyakinkan dalam menanggapi pertanyaan, mereka seringkali dapat memberikan informasi yang tidak akurat secara faktual.

Upaya terbaru oleh Google menggunakan teknologi AI untuk menawarkan saran kehidupan yang dipersonalisasi menyimpang dari pedoman saat ini untuk chatbot Bard-nya. Itu memperingatkan pengguna untuk tidak menggunakan tanggapan alat AI untuk "nasihat medis, hukum, keuangan, atau profesional lainnya."

Pedoman Bard juga memperingatkan pengguna untuk tidak menyertakan "informasi rahasia atau sensitif" dalam percakapan mereka dengan chatbot.

Ikuti Whatsapp Channel Republika