همانطور که شرکت‌های آمریکایی به سمت هوش مصنوعی می‌روند، مصرف‌کنندگان برای وام‌ها و مشاغل رد می‌شوند
نیویورک – ریچل اس در محله ای قابل پیاده روی در بروکلین، نیویورک زندگی می کند. بیشتر روزها او می تواند بدون ماشین به راحتی زندگی کند. او اغلب از راه دور کار می کند، اما گاهی اوقات باید به دفتر کار برود. اینجاست که وضعیت او کمی چالش برانگیز می شود. فضای کاری او با وسایل حمل و نقل عمومی به راحتی قابل دسترسی نیست.
از آنجایی که او نیازی به رانندگی ندارد، برای رفع نیاز گاه به گاه خود برای پلتفرم اشتراک خودرو Zipcar درخواست داد. روند درخواست بسیار سریع است و به مصرف کنندگان اجازه می دهد تا با استفاده از ناوگان خودروهای خود نسبتاً سریع وارد جاده شوند.
متاسفانه، این مورد برای راشل نبود. به محض اینکه او دکمه ارسال را فشار داد، توسط نرم افزار هوش مصنوعی که شرکت استفاده می کند، واجد شرایط نبود. راشل که در مورد نتیجه گیج شده بود، با تیم خدمات مشتریان شرکت تماس گرفت.
بالاخره، او هیچ نقصی ندارد که نشان دهد راننده ای غیرمسئول است. او هیچ امتیازی در گواهینامه خود ندارد. تنها گرانی یک بلیط ترافیک بود که او در هفده سالگی دریافت کرد و آن استناد سال ها پیش پرداخت شد.
اگرچه از آن زمان استناد به ترافیک اصلاح شده است، اما اکنون در سی سالگی او هنوز با عواقب آن دست و پنجه نرم می کند.
او با تیم خدمات مشتری Zipcar صحبت کرد بی‌فایده. با وجود یک سابقه رانندگی تمیز، او رد شد. او ادعا می کند که شرکت گفته است که او هیچ راه حلی ندارد و این تصمیم نمی تواند توسط یک انسان بازنویسی شود.
راشل با یادآوری مکالمه خود با الجزیره گفت: “هیچ مسیر یا فرآیندی برای جلب نظر یک انسان وجود نداشت و اگرچه معقول است تنها راه تلاش مجدد درخواست مجدد است” که برای آن هزینه درخواست غیرقابل استرداد وجود دارد. شرکت.
Zipcar به درخواست الجزیره برای اظهار نظر پاسخ نداد.
ریچل یکی از بسیاری از مصرف‌کنندگانی است که سیستم‌های هوش مصنوعی وام‌ها، عضویت‌ها و حتی فرصت‌های شغلی را بدون هیچ توسل یا سیاست تجدیدنظری رد کردند، زیرا شرکت‌ها همچنان برای تصمیم‌گیری‌های کلیدی که بر زندگی روزمره تأثیر می‌گذارند به هوش مصنوعی تکیه می‌کنند.
این شامل D است که اخیراً شغل خود را از دست داده است.
به عنوان شرط مصاحبه، D درخواست کرد که ما فقط از حرف اول آنها به دلیل احترام به حریم خصوصی آنها استفاده کنیم. D از نظر مذهبی به دنبال فرصتی جدید بود که فایده ای نداشت.
پس از ماه‌ها جستجو، D بالاخره یک کار پیدا کرد اما یک مشکل بزرگ وجود داشت – زمان‌بندی.
هنوز چند هفته قبل از اینکه D کار جدید را شروع کند و چند هفته پس از دریافت اولین دستمزد باقی مانده بود.
برای دریافت کمک اضافی، D برای دور زدن وام‌های غارتگرانه در چندین پلتفرم درخواست وام شخصی داد، فقط برای اینکه در این مدت از عهده آن برآیند.
D برای همه وام هایی که درخواست کرده بودند رد شد. اگرچه D شرکت‌های خاصی را تأیید نکرد، اما این بخش گزینه‌های متعددی از جمله Upstart، Upgrade، SoFi، Best Egg و Happy Money و سایر موارد دارد.
D می‌گوید هنگامی که آنها پس از ارسال درخواست آنلاین با شرکت‌ها تماس گرفتند، هیچ کس نتوانست کمک کند و هیچ درخواست تجدیدنظری وجود نداشت.
زمانی که D در اوایل بیست سالگی خود بود، یک کارت اعتباری داشتند که نتوانستند صورتحساب را با آن پرداخت کنند. این تنها کارت اعتباری آنها بود. آنها همچنین یک آپارتمان اجاره می کنند و به حمل و نقل عمومی متکی هستند.
طبق گفته‌های وام‌دهندگان آنلاین که توسط هوش مصنوعی هدایت می‌شوند، فقدان سابقه اعتباری و وثیقه آنها را علیرغم پرداخت بدهی معوق خود در شش سال پیش، واجد شرایط دریافت وام نمی‌کند.
D تأیید نکرد که کدام شرکت‌های خاص را برای وام امتحان کرده‌اند. الجزیره با هر یک از این شرکت‌ها تماس گرفت تا در مورد فرآیندهای آنها اظهار نظر کند – فقط دو نفر پاسخ دادند – Upgrade و Upstart – تا زمان انتشار پاسخ دادند.
«مواردی وجود دارد که می‌توانیم تصمیم در مورد وام را بر اساس اطلاعات اضافی تغییر دهیم، به عنوان مثال، مدرکی مبنی بر سایر منابع درآمد، که در برنامه اصلی ارائه نشده است، اما وقتی صحبت از یک «انسان» می‌شود. یکی از سخنگویان شرکت Upgrade در ایمیلی به الجزیره گفت: “جای زیادی برای سوگیری شخصی وجود دارد، چیزی که تنظیم کننده ها و رهبران صنعت سخت برای حذف آن تلاش کرده اند.” «تکنولوژی عینیت و انصاف را در فرآیند وام‌دهی به ارمغان آورده است و اکنون تصمیم‌گیری‌ها بر اساس شایستگی واقعی متقاضی گرفته می‌شود.»
تقویت تعصبات تاریخی
اما به این سادگی نیست. سوگیری های تاریخی موجود اغلب با فناوری مدرن تقویت می شوند. طبق تحقیقاتی که در سال ۲۰۲۱ توسط نشریه The Markup انجام شد، سیاه‌پوستان آمریکایی ۸۰ درصد بیشتر از همتایان سفیدپوست خود توسط آژانس‌های اعطای وام رد می‌شوند.
نعیم صدیقی، مشاور ارشد در SAS، یک شرکت جهانی هوش مصنوعی و داده، که در آنجا به بانک‌ها در مورد ریسک اعتباری مشاوره می‌دهد، گفت: «هوش مصنوعی فقط مدلی است که بر روی داده‌های تاریخی آموزش داده شده است.
این موضوع با سابقه طولانی اقدامات تبعیض آمیز ایالات متحده در بانکداری نسبت به جوامع رنگین پوست تقویت شده است.
صدیقی گفت: «اگر داده‌های مغرضانه را دریافت کنید، تمام هوش مصنوعی یا هر مدلی که انجام می‌دهد اساساً همان چیزی است که به آن داده‌اید تکرار می‌کند.
«سیستم به گونه‌ای طراحی شده است که تا حد امکان تصمیمات بیشتری را با کمترین تعصب و قضاوت انسانی اتخاذ کند تا آن را به یک تصمیم عینی تبدیل کند. صدیقی افزود: طنز ماجرا همین است… البته برخی هم هستند که از راه می افتند.
این فقط بر اساس نژاد نیست. شرکت‌هایی مانند اپل و گلدمن ساکس حتی متهم شده‌اند که به طور سیستمی محدودیت‌های اعتباری کمتری به زنان نسبت به مردان اعطا می‌کنند.
این نگرانی‌ها نیز نسلی هستند. صدیقی می‌گوید که چنین انکارهایی تحرک اجتماعی را در میان نسل‌های جوان‌تر، مانند نسل‌های جوان (متولدین بین سال‌های ۱۹۸۱ تا ۱۹۹۶) و ژن Z (متولدین بین سال‌های ۱۹۹۷ تا ۲۰۱۲)، در تمام گروه‌های جمعیتی، به طور عمده محدود می‌کند.
به این دلیل است که نام استاندارد سلامت مالی قوی – از جمله کارت‌های اعتباری، خانه‌ها و اتومبیل‌ها – هنگام ارزیابی مسئولیت‌های مالی یک فرد به طور فزاینده‌ای کمتر و کمتر مرتبط می‌شود. فقط نیمی از Gen Z کارت اعتباری دارند. این کاهش نسبت به همه نسل‌های قبل است.
Gen Zers همچنین احتمال کمتری دارد که هنگام درخواست وام، وثیقه‌ای مانند ماشین برای شرط‌بندی داشته باشند. بر اساس مطالعه الف> توسط مک کینزی، گروه سنی نسبت به نسل های قبل کمتر احتمال دارد که گواهینامه رانندگی را انتخاب کنند. تنها یک چهارم از ۱۶ ساله ها و ۴۵ درصد از ۱۷ ساله ها گواهینامه رانندگی دارند. این به ترتیب ۱۸ درصد و ۱۷ درصد کاهش یافته است.
دفتر حمایت مالی از مصرف کننده تدابیر امنیتی خود را برای مصرف کنندگان افزایش داده است. در سپتامبر، آژانس اعلام کرد که آژانس‌های وام‌دهی اعتبار اکنون باید دلیل رد وام را توضیح دهند.
«بستان‌دهندگان اغلب این الگوریتم‌های پیچیده را با مجموعه داده‌های بزرگ تغذیه می‌کنند، که گاهی اوقات شامل داده‌هایی است که ممکن است از نظارت مصرف‌کننده جمع‌آوری شود. در نتیجه، ممکن است یک مصرف‌کننده به دلایلی که ممکن است به‌ویژه مربوط به امور مالی خود نباشد، از اعتبار محروم شود.
با این حال، آژانس به فقدان فرآیند تجدیدنظر انسانی رسیدگی نمی کند زیرا D ادعا می کند که شخصاً با آن برخورد کرده است.
D گفت که باید پرداخت برخی از صورت‌حساب‌ها را به تعویق بیاندازند که به سلامت مالی بلندمدت آنها آسیب می‌رساند و می‌تواند بر توانایی آنها برای دریافت وام با نرخ‌های بهره معقول، در آینده، تأثیر بگذارد.
“از فرصت ها کنار گذاشته شد”
صدیقی پیشنهاد می‌کند که وام دهندگان باید هنگام تصمیم‌گیری در مورد وام، داده‌های جایگزین را در نظر بگیرند که می‌تواند شامل پرداخت‌های اجاره و خدمات شهری و حتی رفتار رسانه‌های اجتماعی و همچنین الگوهای هزینه باشد.
در رسانه‌های اجتماعی اعلام حضور خارجی یک شاخص کلیدی است.
صدیقی می‌افزاید: «اگر پول بیشتری دارید، بیشتر سفر می‌کنید یا اگر صفحاتی مانند بلومبرگ، فایننشال تایمز و رویترز را دنبال می‌کنید، به احتمال زیاد از نظر مالی مسئول خواهید بود.
مشکل رد خودکار فقط یک مشکل برای درخواست‌های وام و عضویت نیست، بلکه فرصت‌های شغلی نیز هست. در سراسر پلتفرم‌های رسانه‌های اجتماعی مانند کاربران Reddit، ایمیل‌های رد کردن را که بلافاصله دریافت می‌کنند پست می‌کنند ارسال یک برنامه.
متیو مولن، پوستر اصلی به الجزیره گفت: «من همه شرایط را برآورده می‌کنم و همه کلمات کلیدی را می‌زنم و در عرض یک دقیقه پس از ارسال درخواست، هم تأییدیه درخواست و هم نامه رد را دریافت کردم».
ویرایشگر ویدیوی کانکتیکات می‌گوید که این اولین بار برای او بود. کارشناسانی مانند Lakia Elam، رئیس شرکت مشاوره منابع انسانی Magnificent Differences Consulting می‌گوید که بین سیستم‌های ردیابی متقاضی و سایر ابزارهای مبتنی بر هوش مصنوعی، این موضوع به طور فزاینده‌ای تبدیل به موضوعی بزرگتر و مشکل‌ساز می‌شود.
سیستم‌های ردیابی متقاضی اغلب مهارت‌های قابل انتقالی را نادیده می‌گیرند که ممکن است همیشه روی کاغذ با مجموعه مهارت‌های داوطلب هماهنگ نباشد.
ایلام به الجزیره گفت: «اغلب اوقات متقاضیانی که مسیر شغلی غیرخطی دارند، که بسیاری از آنها از پیشینه‌های مختلف می‌آیند، از فرصت‌ها کنار گذاشته می‌شوند.
ایلام گفت: «من مدام به سازمان‌ها می‌گویم که باید در این فرآیند ارتباط انسانی را حفظ کنیم.
اما سازمان ها به طور فزاینده ای بیشتر به برنامه هایی مانند ATS و ChatGPT متکی هستند. ایلام استدلال می کند که بسیاری از متقاضیان کار ارزشمند از جمله خودش را کنار گذاشته است.
ایلام گفت: «اگر امروز مجبور باشم از طریق یک سیستم هوش مصنوعی گذر کنم، تضمین می‌کنم که رد خواهم شد.
او دارای مدرک GED – معادل دیپلم دبیرستان – در مقابل مدرک چهار ساله است.
Elam افزود: “آنها GED را در رزومه من می بینند و می گویند که ما باید از این موضوع دوری کنیم.”
تا حدی، به همین دلیل است که آمریکایی‌ها نمی‌خواهند هوش مصنوعی در فرآیند استخدام دخالت داشته باشد. طبق یک گزارش از Pew Research، ۴۱ درصد از آمریکایی ها معتقدند که هوش مصنوعی نباید برای بررسی درخواست های شغلی استفاده شود.
ریچل گفت: «این بخشی از یک گفتگوی بزرگتر در مورد از دست دادن مسیرهای مربوط به روند قانونی است.