¿Una IA le negó el crédito? Se le debe una explicación completa, dice el regulador
Si su solicitud de crédito es rechazada, el acreedor le debe una explicación precisa, incluso si fue una sistema de inteligencia artificial o algoritmo complejo que tomó la decisión, el organismo de control del consumidor del gobierno dice.
Conclusiones clave
- Las empresas que niegan crédito a los consumidores deben proporcionar una explicación precisa del motivo, incluso si se realizó mediante un algoritmo inescrutable de "caja negra", dice la CFPB.
- La guía afecta a los avisos de acciones "adversas" que las compañías financieras deben entregar a los consumidores por ley, para evitar la discriminación.
- Los sistemas de inteligencia artificial, como los que se utilizan cada vez más para tomar decisiones crediticias, pueden ser tan complejos que incluso sus creadores no saben cómo tomaron sus decisiones.
Las empresas que utilizan inteligencia artificial o algoritmos para negar crédito a alguien aún deben brindar a los consumidores las razones precisas de su decisión, dijo el martes la Oficina de Protección Financiera del Consumidor.
En general, cuando una empresa deniega una solicitud de crédito, tiene que enviar un aviso de “acción adversa” explicando los motivos del rechazo. Ese requisito fue creado por los legisladores como parte del Ley de igualdad de oportunidades crediticias para ayudar a garantizar que los prestamistas tuvieran razones reales para rechazar ciertas solicitudes y no discriminaran a las personas por motivos de raza u otras razones ilegítimas.
La nueva guía de la CFPB dice que las empresas deben proporcionar explicaciones reales y detalladas, no sólo textos genéricos. Por ejemplo, si una empresa restringe la línea de crédito de un cliente porque compró ciertos artículos o compró en ciertos tiendas, tienen que decir qué compras perjudican su crédito, en lugar de una explicación vaga como "historial de compras", el dijo la CFPB.
“Los acreedores deben revelar las razones específicas, incluso si los consumidores pueden sorprenderse, molestarse o enojarse al conocer su crédito. las solicitudes se calificaban en función de datos que pueden no relacionarse intuitivamente con sus finanzas”, dijo la CFPB en un comunicado de prensa. liberar.
La oficina señaló que las empresas están recurriendo cada vez más a la IA y a algoritmos tan complejos que los investigadores se refieren a ellos como "cajas negras".
El fenómeno de la “caja negra” al que alude la guía del CFPB se refiere al hecho de que la IA y el aprendizaje automático Los sistemas no funcionan como los programas informáticos tradicionales, que siguen un conjunto de instrucciones establecidas por un programador.
En cambio, procesan cantidades masivas de datos y siguen un proceso de “aprendizaje”, lo que da como resultado sistemas increíblemente complejos. Incluso los creadores de estos sistemas de “caja negra” a menudo no pueden entender exactamente cómo llegaron a una decisión particular, según los científicos informáticos.
“La tecnología comercializada como inteligencia artificial está ampliando los datos utilizados para las decisiones crediticias, y también aumentando la lista de posibles razones por las cuales se deniega el crédito”, dijo el director de la CFPB, Rohit Chopra, en un declaración. “Los acreedores deben poder explicar específicamente los motivos de su denegación. No existe una exención especial para la inteligencia artificial”.
