AI ถูกปฏิเสธเครดิต? คุณได้รับคำอธิบายอย่างครบถ้วน ผู้กำกับดูแลกล่าว
หากใบสมัครขอเครดิตของคุณถูกปฏิเสธ เจ้าหนี้จะต้องได้รับคำอธิบายที่ถูกต้องแม้ว่าจะเป็นเช่นนั้นก็ตาม ระบบปัญญาประดิษฐ์หรืออัลกอริธึมที่ซับซ้อนในการตัดสินใจ ซึ่งเป็นหน่วยงานเฝ้าระวังผู้บริโภคของรัฐบาล พูดว่า
ประเด็นที่สำคัญ
- บริษัทที่ปฏิเสธการให้เครดิตแก่ผู้บริโภคจะต้องให้คำอธิบายที่ถูกต้องว่าทำไม แม้ว่าจะถูกสร้างขึ้นโดยอัลกอริธึม "กล่องดำ" ที่ไม่น่าเชื่อถือก็ตาม CFPB กล่าว
- คำแนะนำดังกล่าวส่งผลต่อประกาศการดำเนินการที่ "ไม่พึงประสงค์" ที่บริษัททางการเงินต้องให้แก่ผู้บริโภคตามกฎหมาย เพื่อป้องกันการเลือกปฏิบัติ
- ระบบปัญญาประดิษฐ์ เช่น ระบบที่ใช้กันมากขึ้นในการตัดสินใจด้านเครดิต อาจมีความซับซ้อนมาก แม้ว่าผู้สร้างจะไม่รู้ว่าตนตัดสินใจอย่างไร
บริษัทที่ใช้ AI หรืออัลกอริธึมในการปฏิเสธการให้เครดิตแก่ใครบางคนยังคงต้องให้เหตุผลที่ถูกต้องแก่ผู้บริโภคในการตัดสินใจ สำนักงานคุ้มครองทางการเงินของผู้บริโภค กล่าวเมื่อวันอังคาร
โดยทั่วไป เมื่อบริษัทปฏิเสธการขอสินเชื่อ พวกเขาจะต้องดำเนินการ ส่งการแจ้งเตือน "การกระทำที่ไม่พึงประสงค์" อธิบายสาเหตุของการปฏิเสธ ข้อกำหนดนั้นถูกสร้างขึ้นโดยฝ่ายนิติบัญญัติซึ่งเป็นส่วนหนึ่งของ
พระราชบัญญัติโอกาสสินเชื่อที่เท่าเทียมกัน เพื่อช่วยให้แน่ใจว่าผู้ให้กู้มีเหตุผลที่แท้จริงในการปฏิเสธใบสมัครบางประเภท และไม่เลือกปฏิบัติต่อผู้คนตามเชื้อชาติหรือเหตุผลที่ผิดกฎหมายอื่น ๆคำแนะนำใหม่ของ CFPB กล่าวว่าบริษัทต่างๆ จะต้องให้คำอธิบายที่เป็นจริงและละเอียด ไม่ใช่แค่ตัวอย่างทั่วไปเท่านั้น ตัวอย่างเช่น หากบริษัทจำกัดวงเงินเครดิตของลูกค้าเนื่องจากซื้อสินค้าบางรายการหรือซื้อสินค้าบางรายการ ร้านค้า พวกเขาต้องบอกว่าการซื้อครั้งใดส่งผลเสียต่อเครดิต มากกว่าคำอธิบายที่คลุมเครือ เช่น “ประวัติการซื้อ” ซีเอฟพีบี กล่าว
“เจ้าหนี้จะต้องเปิดเผยเหตุผลที่เฉพาะเจาะจง แม้ว่าผู้บริโภคอาจรู้สึกประหลาดใจ ไม่พอใจ หรือโกรธเคืองที่ได้ทราบเครดิตของตนก็ตาม แอปพลิเคชันได้รับการให้คะแนนตามข้อมูลที่อาจไม่เกี่ยวข้องกับการเงินของพวกเขาโดยสังหรณ์ใจ” CFPB กล่าวในสื่อ ปล่อย.
สำนักตั้งข้อสังเกตว่าบริษัทต่างๆ กำลังเปลี่ยนการตัดสินใจด้านเครดิตไปใช้ AI และอัลกอริธึมที่ซับซ้อนมากขึ้นจนนักวิจัยเรียกพวกเขาว่า "กล่องดำ"
ปรากฏการณ์ “กล่องดำ” ที่ CFPB พาดพิงถึงข้อเท็จจริงที่ว่า AI และการเรียนรู้ของเครื่อง ระบบไม่ทำงานเหมือนกับโปรแกรมคอมพิวเตอร์ทั่วไป ซึ่งปฏิบัติตามชุดคำสั่งที่กำหนดโดย โปรแกรมเมอร์
แต่จะประมวลผลข้อมูลจำนวนมหาศาลและปฏิบัติตามกระบวนการ "เรียนรู้" ซึ่งส่งผลให้ระบบมีความซับซ้อนอย่างไม่น่าเชื่อ นักวิทยาศาสตร์คอมพิวเตอร์กล่าวว่าแม้แต่ผู้สร้างระบบ "กล่องดำ" ดังกล่าวก็ยังไม่สามารถเข้าใจได้อย่างแน่ชัดว่าพวกเขาตัดสินใจได้อย่างไร
“เทคโนโลยีที่วางตลาดเป็นปัญญาประดิษฐ์กำลังขยายข้อมูลที่ใช้สำหรับการตัดสินใจในการกู้ยืมและยัง เพิ่มรายการเหตุผลที่เป็นไปได้ว่าทำไมเครดิตจึงถูกปฏิเสธ” Rohit Chopra ผู้อำนวยการ CFPB กล่าวใน คำแถลง. “เจ้าหนี้จะต้องสามารถอธิบายเหตุผลในการปฏิเสธโดยเฉพาะได้ ไม่มีข้อยกเว้นพิเศษสำหรับปัญญาประดิษฐ์”