Credit refuzat de un AI? Ți se datorează o explicație completă, spune autoritatea de reglementare
Dacă cererea dvs. de credit este respinsă, creditorul vă datorează o explicație exactă, chiar dacă a fost o sistem de inteligență artificială sau algoritm complex care a luat decizia, organul de control al consumatorilor al guvernului spune.
Recomandări cheie
- Companiile care refuză creditul consumatorilor trebuie să ofere o explicație exactă de ce, chiar dacă a fost realizat printr-un algoritm de „cutie neagră” inscrutabil, spune CFPB.
- Ghidul afectează avizele de acțiune „adverse” pe care companiile financiare trebuie să le dea consumatorilor prin lege, pentru a preveni discriminarea.
- Sistemele de inteligență artificială, precum cele din ce în ce mai utilizate pentru a lua decizii de credit, pot fi atât de complexe, încât creatorii lor nu știu cum au luat deciziile.
Companiile care folosesc inteligența artificială sau algoritmi pentru a refuza creditul cuiva trebuie totuși să ofere consumatorilor motive exacte pentru decizie, a declarat marți Biroul pentru Protecția Financiară a Consumatorului.
În general, atunci când o companie refuză o cerere de credit, trebuie să o facă trimiteți o notificare de „acțiune adversă”. explicând motivele respingerii. Această cerință a fost creată de parlamentari ca parte a Legea privind egalitatea de șanse de credit pentru a se asigura că creditorii aveau motive reale pentru a respinge anumite cereri și nu discriminau oamenii pe motive de rasă sau alte motive ilegitime.
Noul ghid al CFPB spune că companiile trebuie să ofere explicații reale și detaliate, nu doar standarde generice. De exemplu, dacă o companie restricționează linia de credit a unui client pentru că a cumpărat anumite articole sau a făcut cumpărături la anumite magazine, ei trebuie să spună care achiziții le-au afectat creditul, mai degrabă decât o explicație vagă, cum ar fi „istoricul achizițiilor”, a spus CFPB.
„Creditorii trebuie să dezvăluie motivele specifice, chiar dacă consumatorii ar putea fi surprinși, supărați sau supărați să-și afle creditul. aplicațiile au fost clasificate pe date care ar putea să nu aibă legătură intuitivă cu finanțele lor”, a spus CFPB într-o presă. eliberare.
Biroul a remarcat că companiile transferă din ce în ce mai mult deciziile de credit către AI și algoritmi care sunt atât de complexi, încât cercetătorii le numesc „cutii negre”.
Fenomenul „cutie neagră” la care se face aluzie în ghidul CFPB se referă la faptul că AI și învățarea automată sistemele nu funcționează ca programele de calculator tradiționale, care urmează un set de instrucțiuni prezentate de a programator.
În schimb, procesează cantități masive de date și urmează un proces de „învățare”, rezultând sisteme incredibil de complexe. Chiar și creatorii unor astfel de sisteme de „cutie neagră” de multe ori nu pot înțelege exact cum au ajuns la o anumită decizie, potrivit informaticienilor.
„Tehnologia comercializată ca inteligență artificială extinde datele utilizate pentru deciziile de împrumut și, de asemenea creșterea listei de motive potențiale pentru care creditul este refuzat”, a declarat directorul CFPB, Rohit Chopra, într-un afirmație. „Creditorii trebuie să poată explica în mod specific motivele refuzului. Nu există o scutire specială pentru inteligența artificială.”