AIによって信用が拒否されましたか? 十分な説明を受ける義務があると規制当局は言う

クレジットの申請が拒否された場合、債権者は、たとえそれが不当な内容であっても、あなたに正確な説明をする義務があります。 意思決定を行った人工知能システムまたは複雑なアルゴリズム、政府の消費者監視機関 と言う。

消費者金融保護局は火曜日、AIやアルゴリズムを利用して誰かへの信用を拒否する企業は依然として消費者にその決定の正確な理由を提供する必要があると発表した。

一般に、企業が信用申請を拒否する場合、次のことを行う必要があります。 「有害な行為」通知を送信する 拒否の理由を説明します。 この要件は、法案の一環として議員によって作成されました。 信用機会均等法 貸し手が特定の申請を拒否する本当の理由があり、人種やその他の不当な理由に基づいて人々を差別していないかを確認するために役立ちます。

CFPBの新しいガイダンスでは、企業は一般的な定型文だけでなく、実際の詳細な説明を提供する必要があるとしている。 たとえば、顧客が特定の商品を購入したり、特定の場所で買い物をしたりしたために、企業が顧客の信用枠を制限した場合です。 店舗側は、「購入履歴」などの曖昧な説明ではなく、どの購入が自分の信用を傷つけたかを説明する必要がある。 CFPBが明らかにした。

「たとえ消費者が自分の信用を知って驚き、動揺し、怒ったとしても、債権者は具体的な理由を開示しなければなりません」 申請者は財務とは直観的に関連しない可能性のあるデータに基づいて格付けされていた」とCFPBはプレスで述べた。 リリース。

同局は、企業が与信判断をAIやアルゴリズムに委ねるケースが増えており、研究者らはそれらを「ブラックボックス」と呼ぶほど複雑だと指摘した。

CFPB のガイダンスがほのめかしている「ブラック ボックス」現象とは、AI と機械学習が システムは、コンピュータによって定められた一連の命令に従う従来のコンピュータ プログラムのようには機能しません。 プログラマー。

代わりに、大量のデータを処理し、「学習」プロセスに従い、その結果、信じられないほど複雑なシステムが形成されます。 コンピューター科学者によると、そのような「ブラックボックス」システムの作成者でさえ、どのようにして特定の決定に至ったのかを正確に理解できないことが多いという。

「人工知能として宣伝されているテクノロジーにより、融資の意思決定に使用されるデータが拡大しています。 信用が拒否される潜在的な理由のリストが増えている」とCFPB局長ロヒット・チョプラ氏は述べた。 声明。 「債権者は拒否の理由を具体的に説明できなければなりません。 人工知能には特別な例外はありません。」