Regulator Eyes Bank Chatbots som gir dårlig informasjon, fanger kunder i "Doom Loops"

Regjeringens forbrukervakt ser hardt på bankenes bruk av kundeservice chatbots, oppdager at automatiserte systemer noen ganger ikke klarer å hjelpe kunder eller gi dem unøyaktige informasjon.

Forbrukere har blitt fanget i konversasjons-"dommersløyfer" med uhjelpsomme automatiserte kundeservicesystemer; måtte betale gebyrer på grunn av feil gjort av chatbots; og møtte en rekke andre problemer, ifølge en rapport utgitt tirsdag av Consumer Financial Protection Bureau.

"Mangelfulle chatbots som hindrer tilgang til live, menneskelig støtte kan føre til lovbrudd, redusert service og andre skader," sa byrået i rapporten.

Rapporten fremhever hvordan kunder, som er på mottakersiden av tjenesten fra stadig mer populære automatiserte systemer, kan møte en frustrerende opplevelse. De 10 største bankene i landet bruker alle chatbots i en eller annen form, fant byrået, alt i sofistikert fra enkle programmer som tilbyr menyer med valg til vanlige problemer over telefon eller tekst, til komplekse chatbots som bruker siste store språkmodell AI-plattformer å etterligne menneskelig samtale.

Banker har antydet besparelsene ved å distribuere kundeservice chatbots. Selskaper som bruker chatbots på tvers av banktjenester og andre bransjer ble anslått å spare anslagsvis 8 milliarder dollar i året innen 2022, ifølge en studie fra 2017 av Juniper Research sitert av byrået.

I løpet av de siste månedene har teknologifirmaer brukt milliarder på å utvikle AI-produkter, og vise kundebedrifter om deres evne til å automatisere kundeserviceoppgaver, blant annet. For kunder har imidlertid bekvemmeligheten av å ha tilgang til 24-7-støtte som tilbys av roboter, noen betydelige ulemper.

En kunde, sitert anonymt av byrået, sa at en lite hjelpsom virtuell assistent ga repeterende svar, og fanget henne i en "endeløs loop uten utvei" og ingen måte å kontakte en menneskelig agent, noe som resulterer i at hun får et forsinket gebyr og et svart merke på sin tidligere feilfrie kreditt rapportere.

Andre problemer CFPB bemerket inkluderer:

• Systemer er begrenset til kun å kunne fullføre grunnleggende oppgaver og ute av stand til å løse komplekse problemer.
• Chatboter som bruker store språkmodeller kan være tilbøyelige til å gi unøyaktig informasjon – programmer som ChatGPT er beryktet for å finne opp eller "hallusinere" svar på spørsmål fra brukere.
• Enklere systemer kan være svært skriptede og lite hjelpsomme, og lede brukere til FAQ-dokumenter som ikke gir dem den informasjonen de trenger.
• Chatbots forsinker noen ganger tilgangen til menneskelige agenter som faktisk kan løse problemer.
• Chatboter som samler inn sensitiv informasjon utgjør en sikkerhetsrisiko. CFPB fremhevet en hendelse fra 2018 da hackere brøt en chatbot brukt av Ticketmaster i Storbritannia og stjal betalingsinformasjon for 60 000 mennesker.

Byrået sa at det "aktivt overvåker markedet, og forventer at institusjoner som bruker chatbots gjør det på en måte som er i samsvar med kundens og juridiske forpliktelser."