Regulator Eyes Bank Chatboti, ki dajejo slabe informacije, ujamejo stranke v "Doom Loops"

Vladni varuh potrošnikov pozorno preučuje, kako banke uporabljajo storitve za stranke chatboti, pri čemer so ugotovili, da avtomatizirani sistemi strankam včasih ne pomagajo ali jim posredujejo netočne podatke informacije.

Potrošniki so bili ujeti v pogovorne "pogubne zanke" z neuporabnimi avtomatiziranimi sistemi za pomoč strankam; moral plačati pristojbine zaradi napak, ki so jih naredili chatboti; in naletel na vrsto drugih težav, glede na poročilo, ki ga je v torek objavil urad za finančno zaščito potrošnikov.

"Pomanjkljivi klepetalni roboti, ki preprečujejo dostop do podpore v živo, lahko vodijo do kršitev zakonodaje, zmanjšanja storitev in druge škode," je v poročilu zapisal urad.

Poročilo poudarja, kako se lahko stranke, ki prejemajo storitve vse bolj priljubljenih avtomatiziranih sistemov, soočijo z frustrirajočo izkušnjo. Vseh 10 največjih bank v državi uporablja klepetalne robote v takšni ali drugačni obliki, ugotovil je urad, ki se razlikujejo po zahtevnosti od preprostih programov, ki ponujajo izbirne menije, do običajnih težav po telefonu ali besedilnih sporočilih, do zapletenih klepetalnih robotov, ki uporabljajo najnovejši

velike jezikovne platforme AI posnemati človeški pogovor.

Banke so hvalile prihranke zaradi uvedbe klepetalnih robotov za pomoč strankam. Glede na študijo Juniper Research iz leta 2017, ki jo je navedel urad, naj bi podjetja, ki uporabljajo klepetalne robote v bančništvu in drugih panogah, do leta 2022 prihranila približno 8 milijard dolarjev na leto.

V zadnjih mesecih so tehnološka podjetja vložila milijarde v razvoj izdelkov umetne inteligence, s čimer so strankam predstavila njihovo sposobnost avtomatizirati naloge storitev za stranke, med drugim. Za stranke pa ima ugodnost dostopa do 24-urne podpore, ki jo ponujajo roboti, nekaj pomembnih slabosti.

Ena stranka, ki jo je urad citiral anonimno, je dejala, da ji je nekoristna virtualna pomočnica ponavljala odgovore in jo ujela v »neskončno zanko«. brez izhoda« in brez možnosti, da bi stopila v stik s človeškim agentom, zaradi česar je prejela zamudnino in črno piko na svojem prej brezhibnem kreditu poročilo.

Druge težave, ki jih je opazil CFPB, vključujejo:

• Sistemi so omejeni le na to, da lahko dokončajo osnovne naloge in ne morejo rešiti kompleksnih problemov.
• Klepetalni roboti, ki uporabljajo velike jezikovne modele, so lahko nagnjeni k dajanju netočnih informacij – programi, kot je ChatGPT, so znani po tem, da si izmišljajo ali »halucinirajo« odgovore na vprašanja uporabnikov.
• Enostavnejši sistemi so lahko zelo skriptni in nekoristni ter usmerjajo uporabnike na dokumente s pogostimi vprašanji, ki jim ne dajejo informacij, ki jih potrebujejo.
• Klepetalni roboti včasih odložijo dostop do človeških agentov, ki lahko dejansko rešijo težave.
• Klepetalni roboti, ki zbirajo občutljive podatke, predstavljajo varnostno tveganje. CFPB je izpostavil incident iz leta 2018, ko so hekerji vdrli v chatbot, ki ga je uporabljal Ticketmaster v Veliki Britaniji, in ukradli podatke o plačilih za 60.000 ljudi.

Urad je dejal, da "aktivno spremlja trg in pričakuje, da bodo institucije, ki uporabljajo chatbote, to storile na način, ki je skladen s strankami in zakonskimi obveznostmi."