REPUBLIKA.CO.ID, JAKARTA -- Sebagian orang menganggap chatbot sangat berguna. Program berbasis kecerdasan buatan (AI) itu memang dapat menghadirkan simulasi percakapan atau obrolan selayaknya manusia lewat aplikasi pesan, situs web, aplikasi seluler, juga telepon.
Ada kalanya memakai chatbot AI seperti berbicara dengan orang sungguhan yang dapat memberikan wawasan dan nasihat berguna. Akan tetapi, ada juga pengguna yang malah frustrasi saat memakainya, karena algoritma menawarkan hasil yang tak masuk akal.
Dikutip dari laman Futurism, Ahad (8/10/2023), sebuah studi baru yang diterbitkan dalam jurnal Nature Machine Intelligence mengungkap perbedaan fenomena itu. Menurut tim peneliti dari MIT Media Lab, manfaat chatbot AI bergantung pada penggunanya.
"AI seperti sebuah cermin," kata salah satu penulis studi, Pat Pataranutaporn. Banyak kemampuan chatbot AI yang menarik perhatian cenderung dapat dijelaskan oleh pengguna yang memproyeksikan ekspektasi mereka ke dalam sistem.
Dalam studinya, Pataranutaporn dan tim berupaya mengukur efek plasebo AI. Mereka ingin melihat apa yang terjadi jika seseorang memiliki imajinasi tertentu tentang AI, dan bagaimana hal itu kemudian terwujud dalam interaksi dengan AI.
Tim membagi 300 peserta menjadi tiga kelompok. Semua peserta diminta menggunakan AI untuk menerima dukungan kesehatan mental dan mengukur seberapa efektif AI dalam menyediakannya. Namun, ketiga kelompok 'diatur' untuk mengharapkan pengalaman yang berbeda.
Sebagian mendapat GPT-3 generatif OpenAI atau ELIZA, AI berbasis aturan yang lebih sederhana, dan tidak ada yang dimanipulasi dengan cara apa pun. Satu kelompok diberitahu bahwa AI tidak punya motif. Kelompok kedua diberi tahu bahwa AI dilatih untuk menunjukkan empati dan kasih sayang. Sementara, kelompok ketiga diberitahu bahwa AI memiliki niat jahat dan mencoba memanipulasi atau menipu pengguna.
Hasilnya sangat mengejutkan. Sebagian peserta melaporkan bahwa pengalaman mereka tidak sesuai dengan apa yang diharapkan. Pataranutaporn dan rekan-rekannya berpendapat bahwa cara orang dengan latar budaya berbeda memandang AI pada akhirnya dapat memengaruhi cara teknologi tersebut digunakan dan dikembangkan seiring berjalannya waktu.
"Ketika individu berpikir bahwa AI peduli, mereka menjadi lebih positif terhadap hal tersebut," ucap Pataranutaporn. Umpan balik penguatan itu menyebabkan peserta mengubah cara mereka memandang AI tergantung pada apa yang diberitahukan kepada mereka.
Para periset juga menemukan bahwa model mental sangat mempengaruhi penilaian pengguna dan mempengaruhi perilaku pengguna dan AI. Model mental adalah hasil dari latar belakang budaya individu, keyakinan pribadi, dan konteks situasi tertentu, yang dipengaruhi oleh pola pikir.
Hal itu juga berarti bahwa orang-orang di balik hadirnya AI mempunyai pengaruh yang besar. Orang-orang di bagian pemasaran atau yang membuat produk ingin membentuknya dengan cara tertentu. Karena itu, sangat penting mempelajari setiap bias yang ada dalam jawaban AI, sesuatu yang mungkin dibawa penggagasnya ke dalam sistem.
Ikuti Whatsapp Channel Republika