Kata Peneliti, ChatGPT Bisa Buat Data Palsu Seolah Nyata
Bisa timbul masalah saat seseorang pakai data palsu untuk mengarang hasil penelitian.
REPUBLIKA.CO.ID, ChatGPT telah dilarang di beberapa sekolah, meskipun banyak ahli menilai chatbot itu dapat bermanfaat bagi dunia pendidikan. Tetapi kini ChatGPT ditemukan dapat mengarang alias membuat data palsu.
Chatbot tersebut dapat memalsukan data medis yang cukup meyakinkan, menurut sebuah makalah baru yang diterbitkan di Patterns. Hal itu membuat chatbot lebih mudah untuk mempublikasikan pemalsuan penelitian, menurut penulis makalah.
"Alasan ini terjadi meliputi keuntungan finansial, potensi ketenaran, promosi di dunia akademis, dan pembuatan daftar riwayat hidup, terutama untuk mahasiswa kedokteran yang berada di kondisi yang semakin kompetitif," tulis peneliti, seperti dikutip dari Cosmos Magazine, Ahad (12/3/2023).
Awalnya, para peneliti meminta ChatGPT untuk membuat abstrak makalah ilmiah tentang efek dua obat berbeda pada rheumatoid arthritis, menggunakan data dari 2012 hingga 2020. Chatbot memberikan abstrak yang terdengar meyakinkan dan memberikan angka nyata.
Para peneliti meminta chatbot mengatakan satu obat yang bekerja lebih baik. ChatGPT hanya memberi data hingga 2019, jadi tidak ada angka dari 2020.
Peneliti mengingatkan, seseorang dapat menemukan banyak abstrak yang dapat diserahkan ke berbagai konferensi untuk dipublikasikan. Setelah menerima abstrak untuk publikasi, seseorang dapat menggunakan teknologi yang sama untuk menulis naskah mereka, sepenuhnya dibangun di atas data palsu dan hasil yang dipalsukan.
Para peneliti menunjukkan kemungkinan cara positif bagi peneliti untuk memanfaatkan kecerdasan buatan (AI). Menggunakan AI untuk penelitian bukanlah upaya jahat yang inheren.
"Meminta AI untuk memeriksa tata bahasa atau menulis kesimpulan untuk hasil yang sah yang ditemukan dalam sebuah penelitian adalah penggunaan lain yang dapat dimasukkan AI ke dalam proses penelitian untuk menghilangkan kesibukan yang dapat memperlambat proses penelitian ilmiah," kata para peneliti.
Peneliti mengatakan, studi mereka sendiri secara tata bahasa diperiksa oleh AI. Namun bisa timbul masalah ketika seseorang menggunakan data yang tidak ada untuk mengarang hasil untuk menulis penelitian. Hal itu dapat dengan mudah melewati deteksi manusia dan dipublikasikan.
Karya yang keliru dan diterbitkan, tentu bisa mencemari penelitian yang sah dan dapat memengaruhi generalisasi karya yang sah. Peneliti mengatakan bahwa komunitas riset harus memikirkan cara terbaik untuk memberikan perlindungan terhadap ancaman ini.
Ikuti Whatsapp Channel Republika