REPUBLIKA.CO.ID, JAKARTA---Consumer Financial Protection Bureau (CFPB) Amerika Serikat mengeluarkan peringatan terkait chatbot AI generatif yang digunakan oleh bank. Pihaknya telah menerima banyak keluhan dari para nasabah yang berinteraksi dengan chatbot.
Para nasabah merasa chatbot AI telah gagal menjawab pertanyaan-pertanyaan mereka. “Berinteraksi (secara langsung) dengan nasabah untuk menyelesaikan masalah, adalah fungsi penting lembaga keuangan,” kata badan itu melansir dari CNet, Kamis (8/6/2023).
Chatbot AI dapat berisiko memberikan informasi keuangan yang tidak akurat kepada nasabah, atau melanggar privasi dan data mereka. Chatbot AI juga dapat menimbulkan kurangnya kepercayaan pada lembaga keuangan dan layanannya, serta mengurangi kepuasan pelanggan, terutama jika chatbot mempersulit proses mengarahkan pelanggan ke perwakilan layanan offline.
CFPB menamai dua chatbot AI generatif, Eno dari Capital One dan Erica dari Bank of America, yang dilatih secara algoritma dengan percakapan pelanggan dan log obrolan. Capital One dan Bank of America tidak segera menanggapi permintaan komentar.
Sekitar satu dari tiga orang di Amerika Serikat berinteraksi dengan chatbot pada 2022. Jumlah itu diperkirakan akan meningkat karena semakin banyak perusahaan mengintegrasikan AI ke dalam operasi mereka.
“Chatbot yang diterapkan dengan buruk dapat menyebabkan frustrasi pada pelanggan, berkurangnya kepercayaan, dan bahkan pelanggaran hukum,” kata Direktur CFPB Rohit Chopra dalam sebuah pernyataan.
Bank bukan satu-satunya yang merangkul alat AI. Banjir layanan dan fitur baru yang ditenagai oleh AI generatif, telah dirilis dalam beberapa bulan terakhir setelah peluncuran ChatGPT OpenAI.
Ada bot obrolan AI yang memiliki potensi untuk membantu orang dalam tugas besar dan kecil, namun beberapa bot menyebabkan lebih banyak kerugian daripada kebaikan.
Salah satu organisasi pencegahan gangguan makan, mengubah chatbot AI menjadi layanan offline setelah AI mendorong penurunan berat badan pada pengguna yang meminta bantuan saran. Bahkan, chatbot AI itu memberikan saran yang berbahaya dan tidak layak.
CFPB mengatakan sedang memantau pasar chatbot AI, dan mendorong nasabah untuk mengajukan keluhan dengan chatbot perbankan ke situs webnya atau dengan menelepon call center resmi.
Ikuti Whatsapp Channel Republika