Regulator จับตามอง Chatbots ของธนาคารที่ให้ข้อมูลไม่ดี ดักจับลูกค้าใน 'Doom Loops'

หน่วยงานกำกับดูแลผู้บริโภคของรัฐบาลกำลังตรวจสอบการใช้บริการของลูกค้าของธนาคารอย่างจริงจัง แชทบอทพบว่าระบบอัตโนมัติบางครั้งล้มเหลวในการช่วยเหลือลูกค้าหรือให้ข้อมูลที่ไม่ถูกต้อง ข้อมูล.

ผู้บริโภคติดอยู่ใน "วังวนแห่งหายนะ" ของการสนทนาด้วยระบบบริการลูกค้าอัตโนมัติที่ไม่ช่วยเหลือ ต้องจ่ายค่าธรรมเนียมเนื่องจากความผิดพลาดของแชทบอท และพบปัญหาอื่นๆ อีกมาก ตามรายงานที่เผยแพร่เมื่อวันอังคารโดย Consumer Financial Protection Bureau

“แชตบอตที่บกพร่องซึ่งป้องกันการเข้าถึงการถ่ายทอดสด การสนับสนุนของมนุษย์อาจนำไปสู่การละเมิดกฎหมาย บริการลดลง และอันตรายอื่นๆ” สำนักระบุในรายงาน

รายงานเน้นย้ำว่าลูกค้าซึ่งได้รับบริการจากระบบอัตโนมัติที่ได้รับความนิยมมากขึ้นเรื่อยๆ สามารถเผชิญกับประสบการณ์ที่น่าผิดหวังได้อย่างไร ธนาคารที่ใหญ่ที่สุด 10 แห่งในประเทศล้วนใช้แชทบอทในรูปแบบใดรูปแบบหนึ่ง สำนักพบว่ามีความซับซ้อน ตั้งแต่โปรแกรมง่ายๆ ที่มีเมนูให้เลือก ปัญหาทั่วไปทางโทรศัพท์หรือข้อความ ไปจนถึงแชทบอทที่ซับซ้อนที่ใช้ ล่าสุด แพลตฟอร์ม AI โมเดลภาษาขนาดใหญ่ เพื่อเลียนแบบการสนทนาของมนุษย์

ธนาคารต่างพากันประหยัดเงินจากการปรับใช้แชทบอทบริการลูกค้า บริษัทที่ใช้แชทบอทในอุตสาหกรรมธนาคารและอุตสาหกรรมอื่นๆ คาดว่าจะประหยัดเงินได้ประมาณ 8 พันล้านดอลลาร์ต่อปีภายในปี 2565 จากการศึกษาในปี 2560 โดย Juniper Research ที่อ้างโดยสำนัก

ในช่วงหลายเดือนที่ผ่านมา บริษัทเทคโนโลยีได้ทุ่มเงินหลายพันล้านเพื่อพัฒนาผลิตภัณฑ์ AI โดยนำเสนอความสามารถที่บริษัทลูกค้าสามารถทำได้ ทำให้งานบริการลูกค้าเป็นไปโดยอัตโนมัติ, เหนือสิ่งอื่นใด. อย่างไรก็ตาม สำหรับลูกค้า ความสะดวกสบายในการเข้าถึงการสนับสนุนตลอด 24 ชั่วโมงทุกวันโดยบอทมาพร้อมกับข้อเสียที่สำคัญบางประการ

ลูกค้ารายหนึ่งซึ่งอ้างโดยไม่ระบุชื่อโดยสำนักกล่าวว่าผู้ช่วยเสมือนที่ไม่ช่วยเหลือให้คำตอบซ้ำ ๆ ทำให้เธอตกอยู่ใน "วงจรที่ไม่มีที่สิ้นสุด ไม่มีทางออก” และไม่มีทางติดต่อตัวแทนที่เป็นมนุษย์ ส่งผลให้เธอได้รับค่าธรรมเนียมล่าช้าและเครดิตที่ไร้ตำหนิก่อนหน้านี้ของเธอ รายงาน.

ปัญหาอื่น ๆ ที่ CFPB ระบุไว้ ได้แก่ :

• ระบบถูกจำกัดให้ทำงานพื้นฐานได้เท่านั้น และไม่สามารถแก้ปัญหาที่ซับซ้อนได้
• แชทบอทที่ใช้โมเดลภาษาขนาดใหญ่อาจมีแนวโน้มที่จะให้ข้อมูลที่ไม่ถูกต้อง โปรแกรมอย่างเช่น ChatGPT มีชื่อเสียงในด้านการสร้างหรือ "หลอน" คำตอบสำหรับคำถามจากผู้ใช้
• ระบบที่เรียบง่ายอาจมีสคริปต์สูงและไม่ช่วยเหลือ โดยนำผู้ใช้ไปยังเอกสารคำถามที่พบบ่อยซึ่งไม่ได้ให้ข้อมูลที่พวกเขาต้องการ
• บางครั้ง Chatbots จะชะลอการเข้าถึงตัวแทนของมนุษย์ที่สามารถแก้ปัญหาได้จริง
• Chatbots ที่รวบรวมข้อมูลที่ละเอียดอ่อนมีความเสี่ยงด้านความปลอดภัย CFPB ให้ความสำคัญกับเหตุการณ์ในปี 2018 เมื่อแฮ็กเกอร์เจาะระบบแชทบอทที่ Ticketmaster ใช้ในสหราชอาณาจักร และขโมยข้อมูลการชำระเงินของผู้คน 60,000 คน

สำนักกล่าวว่า "กำลังติดตามตลาดอย่างแข็งขัน และคาดว่าสถาบันต่างๆ ที่ใช้แชทบอทจะทำในลักษณะที่สอดคล้องกับลูกค้าและข้อผูกมัดทางกฎหมาย"