Megtagadta a hitelt egy mesterséges intelligencia? Tartozik egy teljes magyarázattal, mondja a szabályozó
Ha hitelkérelmét elutasítják, a hitelező pontos magyarázattal tartozik Önnek – még akkor is, ha az egy mesterséges intelligencia rendszer vagy komplex algoritmus, amely a döntést hozta, a kormány fogyasztóvédelmi testülete mondja.
Kulcs elvitelek
- A CFPB szerint azoknak a vállalatoknak, amelyek megtagadják a hitelt a fogyasztóktól, pontos magyarázatot kell adniuk, hogy miért, még akkor is, ha ez egy kifürkészhetetlen "fekete doboz" algoritmussal történt.
- Az útmutatás érinti a „káros” intézkedésekre vonatkozó figyelmeztetéseket, amelyeket a pénzügyi társaságoknak a törvény értelmében a fogyasztóknak kell adniuk a diszkrimináció megelőzése érdekében.
- A mesterséges intelligencia rendszerek, mint amilyenek az egyre gyakrabban használt hiteldöntések, olyan összetettek lehetnek, hogy még az alkotóik sem tudják, hogyan jutottak döntéseikhez.
Azoknak a vállalatoknak, amelyek mesterséges intelligencia vagy algoritmusok segítségével megtagadják valakitől a hitelt, továbbra is pontos indoklást kell adniuk a fogyasztóknak a döntésükről - közölte kedden a Fogyasztói Pénzügyi Hivatal.
Általánosságban elmondható, hogy ha egy vállalat elutasítja a hitelkérelmet, akkor ezt meg kell tennie küldjön egy „kedvezőtlen cselekvés” értesítést az elutasítás okainak ismertetése. Ezt a követelményt a törvényhozók hozták létre annak részeként Egyenlő hitellehetőségről szóló törvény annak biztosításában, hogy a hitelezőknek valós okaik voltak bizonyos kérelmek elutasítására, és ne diszkrimináljanak embereket faji vagy egyéb jogellenes okok alapján.
A CFPB új iránymutatása szerint a vállalatoknak valós és részletes magyarázatokat kell adniuk – nem csak az általános kazánokat. Például, ha egy vállalat korlátozza az ügyfél hitelkeretét, mert bizonyos termékeket vásárolt vagy vásárolt áruházakban meg kell mondaniuk, hogy mely vásárlások rontják a hitelüket, nem pedig homályos magyarázatot, például „vásárlási előzményeket”, – mondta a CFPB.
„A hitelezőknek nyilvánosságra kell hozniuk a konkrét okokat, még akkor is, ha a fogyasztók meglepődnek, idegesek vagy feldühödnek, amikor tudomást szereznek hitelükről. a pályázatokat olyan adatok alapján osztályozták, amelyek nem biztos, hogy intuitív módon kapcsolódnak a pénzügyeikhez” – áll a CFPB sajtótájékoztatóján. kiadás.
Az iroda megjegyezte, hogy a vállalatok egyre inkább a mesterséges intelligencia és az olyan bonyolult algoritmusok kezébe adják a hitelezési döntéseiket, hogy a kutatók „fekete dobozoknak” nevezik őket.
A „fekete doboz” jelenség, amelyre a CFPB útmutatása utal, arra utal, hogy az AI és a gépi tanulás A rendszerek nem úgy működnek, mint a hagyományos számítógépes programok, amelyek az a. által meghatározott utasításokat követik programozó.
Ehelyett hatalmas mennyiségű adatot dolgoznak fel, és egy „tanulási” folyamatot követnek, ami hihetetlenül összetett rendszereket eredményez. Az informatikusok szerint gyakran még az ilyen „fekete dobozos” rendszerek megalkotói sem értik pontosan, hogyan jutottak el egy adott döntéshez.
„A mesterséges intelligenciaként forgalmazott technológia bővíti a hitelezési döntésekhez felhasznált adatokat, és azt is A hitel megtagadásának lehetséges okainak listája bővül” – mondta Rohit Chopra, a CFPB igazgatója nyilatkozat. „A hitelezőknek képesnek kell lenniük konkrétan megmagyarázni az elutasítás okait. A mesterséges intelligencia esetében nincs külön mentesség.”
