Regulator Amati Chatbots Bank Yang Beri Info Buruk, Jebak Pelanggan di 'Doom Loops'

Pengawas konsumen pemerintah memperhatikan penggunaan layanan pelanggan oleh bank chatbots, menemukan bahwa sistem otomatis terkadang gagal membantu pelanggan atau membuat mereka tidak akurat informasi.

Konsumen telah terjebak dalam percakapan “putaran malapetaka” dengan sistem layanan pelanggan otomatis yang tidak membantu; harus membayar biaya karena kesalahan yang dilakukan oleh chatbots; dan menghadapi sejumlah masalah lain, menurut laporan yang dirilis Selasa oleh Biro Perlindungan Keuangan Konsumen.

“Kekurangan chatbot yang mencegah akses ke live, dukungan manusia dapat menyebabkan pelanggaran hukum, berkurangnya layanan, dan bahaya lainnya,” kata biro tersebut dalam laporan tersebut.

Laporan tersebut menyoroti bagaimana pelanggan, yang menerima layanan dari sistem otomatis yang semakin populer, dapat menghadapi pengalaman yang membuat frustrasi. 10 bank terbesar di negara itu semuanya menggunakan chatbots dalam satu atau lain bentuk, kata biro itu, mulai dari kecanggihannya dari program sederhana yang menawarkan menu pilihan hingga masalah umum melalui telepon atau teks, hingga chatbot kompleks yang menggunakan terbaru

platform AI model bahasa besar untuk meniru percakapan manusia.

Bank telah menggembar-gemborkan penghematan dari penggelaran chatbots layanan pelanggan. Perusahaan yang menggunakan chatbot lintas perbankan dan industri lainnya diproyeksikan akan menghemat sekitar $8 miliar per tahun pada tahun 2022 menurut sebuah studi tahun 2017 oleh Juniper Research yang dikutip oleh biro tersebut.

Dalam beberapa bulan terakhir, perusahaan teknologi telah menggelontorkan miliaran dolar untuk mengembangkan produk AI, menawarkan perusahaan klien pada kemampuan mereka mengotomatiskan tugas layanan pelanggan, antara lain. Namun, bagi pelanggan, kenyamanan memiliki akses ke dukungan 24-7 yang ditawarkan oleh bot hadir dengan beberapa kerugian yang signifikan.

Seorang pelanggan, dikutip secara anonim oleh biro, mengatakan asisten virtual yang tidak membantu memberikan tanggapan berulang, menjebaknya dalam “putaran tanpa akhir tanpa jalan keluar” dan tidak ada cara untuk menghubungi agen manusia, mengakibatkan dia mendapatkan biaya keterlambatan dan tanda hitam pada kreditnya yang sebelumnya mulus. laporan.

Masalah lain yang dicatat CFPB termasuk:

• Sistem menjadi terbatas hanya mampu menyelesaikan tugas-tugas dasar dan tidak mampu memecahkan masalah yang kompleks.
• Chatbots yang menggunakan model bahasa besar cenderung memberikan informasi yang tidak akurat—program seperti ChatGPT terkenal mengarang atau “berhalusinasi” menjawab pertanyaan dari pengguna.
• Sistem yang lebih sederhana dapat memiliki banyak skrip dan tidak membantu, mengarahkan pengguna ke dokumen FAQ yang tidak memberikan informasi yang mereka butuhkan.
• Chatbot terkadang menunda akses ke agen manusia yang sebenarnya dapat menyelesaikan masalah.
• Chatbots yang mengumpulkan informasi sensitif menimbulkan risiko keamanan. CFPB menyoroti sebuah insiden dari tahun 2018 ketika peretas meretas chatbot yang digunakan oleh Ticketmaster di Inggris dan mencuri informasi pembayaran untuk 60.000 orang.

Biro tersebut mengatakan “secara aktif memantau pasar, dan mengharapkan institusi yang menggunakan chatbot untuk melakukannya dengan cara yang konsisten dengan pelanggan dan kewajiban hukum.”