Odmietla úver AI? Dlžíte vám úplné vysvetlenie, hovorí regulátor
Ak je vaša žiadosť o úver zamietnutá, veriteľ vám dlhuje presné vysvetlenie – aj keď to bolo systém umelej inteligencie alebo zložitý algoritmus, ktorý rozhodol, vládny strážca spotrebiteľov hovorí.
Kľúčové informácie
- Spoločnosti, ktoré odmietnu úver spotrebiteľom, musia poskytnúť presné vysvetlenie, prečo, aj keď to bolo vytvorené pomocou nevyspytateľného algoritmu „čiernej skrinky“, hovorí CFPB.
- Usmernenie sa týka „nepriaznivých“ opatrení, ktoré musia finančné spoločnosti poskytnúť spotrebiteľom zo zákona, aby sa predišlo diskriminácii.
- Systémy umelej inteligencie, ako sú tie, ktoré sa čoraz častejšie používajú na prijímanie úverových rozhodnutí, môžu byť také zložité, že ich tvorcovia nevedia, ako k rozhodnutiam dospeli.
Spoločnosti, ktoré používajú AI alebo algoritmy na odmietnutie úveru niekomu, musia spotrebiteľom poskytnúť presné dôvody svojho rozhodnutia, uviedol v utorok Úrad pre ochranu spotrebiteľov.
Vo všeobecnosti, keď spoločnosť zamietne žiadosť o úver, musí to urobiť poslať oznámenie o „nepriaznivom konaní“.
vysvetlenie dôvodov odmietnutia. Túto požiadavku vytvorili zákonodarcovia ako súčasť Zákon o rovnakých úverových príležitostiach pomôcť zabezpečiť, aby veritelia mali skutočné dôvody na odmietnutie určitých žiadostí a nediskriminovali ľudí na základe rasy alebo iných nezákonných dôvodov.Nové usmernenie CFPB hovorí, že spoločnosti musia poskytnúť skutočné a podrobné vysvetlenia – nielen všeobecné štandardné informácie. Napríklad, ak spoločnosť obmedzí zákazníkovu úverovú linku, pretože si kúpil určité položky alebo nakupoval za určitých obchody, musia povedať, ktoré nákupy poškodzujú ich kredit, a nie vágne vysvetlenie, ako napríklad „história nákupov“, Povedal CFPB.
„Veritelia musia zverejniť konkrétne dôvody, aj keď spotrebitelia môžu byť prekvapení, rozrušení alebo nahnevaní, keď sa dozvedeli o svojej kreditnej hodnote. žiadosti boli hodnotené na základe údajov, ktoré nemusia intuitívne súvisieť s ich financiami,“ uviedla CFPB v tlači uvoľniť.
Predsedníctvo poznamenalo, že spoločnosti čoraz viac premieňajú úverové rozhodnutia na AI a algoritmy, ktoré sú také zložité, že ich výskumníci označujú ako „čierne skrinky“.
Fenomén „čiernej skrinky“, na ktorý sa odvoláva usmernenie CFPB, sa týka skutočnosti, že AI a strojové učenie systémy nefungujú ako tradičné počítačové programy, ktoré sa riadia súborom pokynov stanovených a programátor.
Namiesto toho spracúvajú obrovské množstvo údajov a nasledujú proces „učenia sa“, čo vedie k neuveriteľne zložitým systémom. Podľa počítačových vedcov dokonca ani tvorcovia takýchto systémov „čiernej skrinky“ často nedokážu presne pochopiť, ako dospeli k určitému rozhodnutiu.
„Technológia predávaná ako umelá inteligencia rozširuje údaje používané pri rozhodovaní o úveroch a tiež rozširuje zoznam potenciálnych dôvodov, prečo je úver odmietnutý,“ povedal riaditeľ CFPB Rohit Chopra v a vyhlásenie. „Veritelia musia byť schopní konkrétne vysvetliť svoje dôvody odmietnutia. Pre umelú inteligenciu neexistuje žiadna špeciálna výnimka.“
