Vai AI liedza kredītu? Regulators saka, ka jums ir jāsniedz pilns paskaidrojums
Ja jūsu kredīta pieteikums tiek noraidīts, kreditors jums ir parādā precīzu paskaidrojumu, pat ja tas bija mākslīgā intelekta sistēma vai sarežģīts algoritms, kas pieņēma lēmumu, valdības patērētāju uzraugs saka.
Key Takeaways
- Uzņēmumiem, kas liedz kredītu patērētājiem, ir jāsniedz precīzs skaidrojums, kāpēc, pat ja tas tika veikts ar neizdibināmu "melnās kastes" algoritmu, norāda CFPB.
- Norādījumi ietekmē "nelabvēlīgas" darbības paziņojumus, kas finanšu uzņēmumiem saskaņā ar likumu ir jāsniedz patērētājiem, lai novērstu diskrimināciju.
- Mākslīgā intelekta sistēmas, piemēram, tās, kuras arvien biežāk izmanto kredīta lēmumu pieņemšanai, var būt tik sarežģītas, ka pat to veidotāji nezina, kā viņi ir pieņēmuši lēmumus.
Uzņēmumiem, kas izmanto mākslīgo intelektu vai algoritmus, lai kādam liegtu kredītu, joprojām ir jāsniedz patērētājiem precīzs lēmuma pamatojums, otrdien paziņoja Patērētāju finanšu aizsardzības birojs.
Kopumā, ja uzņēmums noraida kredīta pieteikumu, tas ir jādara nosūtiet paziņojumu par nevēlamu darbību
paskaidrojot atteikuma iemeslus. Šo prasību izstrādāja likumdevēji kā daļu no Vienlīdzīgu kreditēšanas iespēju likums lai palīdzētu nodrošināt, ka aizdevējiem ir patiesi iemesli noteiktu pieteikumu noraidīšanai un viņi nediskriminē cilvēkus rases vai citu nelikumīgu iemeslu dēļ.CFPB jaunajās vadlīnijās teikts, ka uzņēmumiem ir jāsniedz reāli un detalizēti paskaidrojumi, nevis tikai vispārīgi vispārīgi skaidrojumi. Piemēram, ja uzņēmums ierobežo klienta kredītlīniju, jo viņš iegādājās noteiktas preces vai iepirkās noteiktās veikalos, viņiem ir jāpasaka, kuri pirkumi kaitē viņu kredītvēsturei, nevis jāsniedz neskaidrs skaidrojums, piemēram, “pirkumu vēsture”, CFPB teica.
"Kreditoriem ir jāatklāj konkrēti iemesli, pat ja patērētāji var būt pārsteigti, sarūgtināti vai sašutuši, uzzinot par savu kredītvēsturi. pieteikumi tika vērtēti pēc datiem, kas var nebūt intuitīvi saistīti ar viņu finansēm," teikts CFPB presē. atbrīvot.
Birojs atzīmēja, ka uzņēmumi arvien vairāk lēmumus par kredītiem pievērš AI un algoritmiem, kas ir tik sarežģīti, ka pētnieki tos dēvē par "melnajām kastēm".
“Melnās kastes” parādība, uz kuru atsaucas CFPB vadlīnijās, attiecas uz faktu, ka AI un mašīnmācīšanās sistēmas nedarbojas kā tradicionālās datorprogrammas, kas izpilda instrukciju kopu, ko nosaka a programmētājs.
Tā vietā viņi apstrādā milzīgus datu apjomus un seko “mācīšanās” procesam, kā rezultātā izveidojas neticami sarežģītas sistēmas. Pat šādu “melnās kastes” sistēmu veidotāji bieži vien nevar precīzi saprast, kā viņi ir pieņēmuši konkrētu lēmumu, norāda datorzinātnieki.
“Tehnoloģijas, kas tiek tirgotas kā mākslīgais intelekts, paplašina datus, kas tiek izmantoti kreditēšanas lēmumu pieņemšanai, kā arī palielināt iespējamo iemeslu sarakstu, kāpēc kredīts tiek atteikts, ”sacīja CFPB direktors Rohits Čopra paziņojums, apgalvojums. “Kreditoriem jāspēj konkrēti izskaidrot atteikuma iemeslus. Mākslīgajam intelektam nav īpašu izņēmumu.
