Kredit Ditolak Oleh AI? Anda Berutang Penjelasan Lengkap, Kata Regulator
Jika permohonan kredit Anda ditolak, kreditur berhutang penjelasan yang akurat kepada Anda—meskipun itu adalah penjelasan yang akurat sistem kecerdasan buatan atau algoritma kompleks yang membuat keputusan, pengawas konsumen pemerintah mengatakan.
Poin Penting
- Perusahaan yang menolak pemberian kredit kepada konsumen harus memberikan penjelasan yang akurat mengapa hal tersebut terjadi, meskipun hal tersebut dilakukan dengan algoritma "kotak hitam" yang tidak dapat dipahami, kata CFPB.
- Panduan ini mempengaruhi pemberitahuan tindakan “merugikan” yang harus diberikan oleh perusahaan keuangan kepada konsumen berdasarkan hukum, untuk mencegah diskriminasi.
- Sistem kecerdasan buatan, seperti yang semakin banyak digunakan untuk membuat keputusan kredit, bisa menjadi sangat rumit bahkan penciptanya tidak tahu bagaimana mereka mengambil keputusan tersebut.
Perusahaan yang menggunakan AI atau algoritme untuk menolak kredit kepada seseorang tetap harus memberikan alasan yang akurat kepada konsumen atas keputusan tersebut, kata Biro Perlindungan Keuangan Konsumen pada hari Selasa.
Secara umum, ketika sebuah perusahaan menolak permohonan kredit, mereka harus melakukannya mengirimkan pemberitahuan “tindakan merugikan”. menjelaskan alasan penolakan tersebut. Persyaratan itu dibuat oleh anggota parlemen sebagai bagian dari Undang-Undang Peluang Kredit yang Setara untuk membantu memastikan bahwa pemberi pinjaman mempunyai alasan yang jelas untuk menolak permohonan tertentu, dan tidak melakukan diskriminasi terhadap orang berdasarkan ras atau alasan tidak sah lainnya.
Panduan baru CFPB menyatakan bahwa perusahaan harus memberikan penjelasan yang nyata dan terperinci—bukan sekadar penjelasan umum. Misalnya, jika perusahaan membatasi batas kredit pelanggan karena mereka membeli barang tertentu atau berbelanja di tempat tertentu toko, mereka harus mengatakan pembelian mana yang merugikan kredit mereka, daripada penjelasan yang tidak jelas seperti “riwayat pembelian”, yaitu kata CFPB.
“Kreditor harus mengungkapkan alasan spesifiknya, meskipun konsumen mungkin terkejut, kesal, atau marah mengetahui kredit mereka lamaran dinilai berdasarkan data yang mungkin tidak berhubungan secara intuitif dengan keuangan mereka,” kata CFPB dalam siaran persnya melepaskan.
Biro tersebut mencatat bahwa semakin banyak perusahaan yang menyerahkan keputusan kreditnya kepada AI dan algoritma yang sangat kompleks, sehingga para peneliti menyebutnya sebagai “kotak hitam”.
Fenomena “kotak hitam” yang disinggung dalam pedoman CFPB mengacu pada fakta bahwa AI dan pembelajaran mesin sistem tidak bekerja seperti program komputer tradisional, yang mengikuti serangkaian instruksi yang ditetapkan oleh a programmer.
Sebaliknya, mereka memproses data dalam jumlah besar dan mengikuti proses “pembelajaran”, sehingga menghasilkan sistem yang sangat kompleks. Bahkan pencipta sistem “kotak hitam” sering kali tidak dapat memahami secara pasti bagaimana mereka mencapai keputusan tertentu, menurut para ilmuwan komputer.
“Teknologi yang dipasarkan sebagai kecerdasan buatan memperluas data yang digunakan untuk keputusan pemberian pinjaman, dan juga menambah daftar kemungkinan alasan mengapa kredit ditolak,” kata Direktur CFPB Rohit Chopra dalam a penyataan. “Kreditor harus bisa menjelaskan secara spesifik alasan penolakannya. Tidak ada pengecualian khusus untuk kecerdasan buatan.”
