נדחה קרדיט על ידי AI? אתה חייב הסבר מלא, אומר הרגולטור

אם בקשתך לזיכוי נדחית, הנושה חייב לך הסבר מדויק - גם אם זה היה מערכת בינה מלאכותית או אלגוריתם מורכב שקיבל את ההחלטה, כלב השמירה על הצרכנים של הממשלה אומר.

חברות שמשתמשות בבינה מלאכותית או באלגוריתמים כדי לשלול אשראי ממישהו עדיין חייבות לתת לצרכנים סיבות מדויקות להחלטה, כך מסרה היום (שלישי) הלשכה להגנת הצרכן.

באופן כללי, כאשר חברה מסרבת בקשת אשראי, היא חייבת לשלוח הודעת "פעולה לרעה". הסבר על הסיבות לדחייה. הדרישה הזו נוצרה על ידי מחוקקים כחלק מה- חוק שוויון הזדמנויות אשראי כדי להבטיח שלמלווים היו סיבות אמיתיות לדחות בקשות מסוימות, והם לא מפלים אנשים על סמך גזע או סיבות לא לגיטימיות אחרות.

ההנחיות החדשות של ה-CFPB אומרות שחברות צריכות לספק הסברים אמיתיים ומפורטים - לא רק תדמית גנרית. לדוגמה, אם חברה מגבילה את קו האשראי של לקוח בגלל שהוא קנה פריטים מסוימים או קנה בכמה חנויות, עליהם לומר אילו רכישות פוגעות באשראי שלהם, במקום הסבר מעורפל כגון "היסטוריית רכישות", אמר CFPB.

"נושים חייבים לחשוף את הסיבות הספציפיות, גם אם הצרכנים עשויים להיות מופתעים, נסערים או כועסים ללמוד את האשראי שלהם יישומים סווגו על פי נתונים שאולי אינם קשורים באופן אינטואיטיבי לכספים שלהם", אמר ה-CFPB בעיתונות לְשַׁחְרֵר.

הלשכה ציינה שחברות מעבירות יותר ויותר החלטות אשראי ל-AI ואלגוריתמים שהם כה מורכבים, עד שחוקרים מתייחסים אליהם כאל "קופסאות שחורות".

תופעת ה"קופסה השחורה" עליה רמז הנחיות CFPB מתייחסת לעובדה שבינה מלאכותית ולמידת מכונה מערכות אינן פועלות כמו תוכנות מחשב מסורתיות, העוקבות אחר סדרת הוראות שנקבעה על ידי א מְתַכנֵת.

במקום זאת, הם מעבדים כמויות אדירות של נתונים ועוקבים אחר תהליך "למידה", וכתוצאה מכך מערכות מורכבות להפליא. אפילו היוצרים של מערכות "קופסה שחורה" כאלה לרוב לא יכולים להבין איך בדיוק הגיעו להחלטה מסוימת, על פי מדעני מחשבים.

"טכנולוגיה המשווקת כבינה מלאכותית מרחיבה את הנתונים המשמשים להחלטות הלוואות, וגם הגדלה של רשימת הסיבות הפוטנציאליות לכך שהאשראי נדחה", אמר מנהל CFPB, רוהיט צ'ופרה הַצהָרָה. "נושים חייבים להיות מסוגלים להסביר באופן ספציפי את הסיבות שלהם להכחשה. אין פטור מיוחד לבינה מלאכותית".