در هند، یک الگوریتم آنها را مرده اعلام می کند. آنها باید ثابت کنند که زنده هستند

این داستان با پشتیبانی شبکه پاسخگویی هوش مصنوعی مرکز پولیتزر تهیه شده است.

روهتاک و دهلی نو، هند: دهلی چاند در ۸ سپتامبر ۲۰۲۲، زمانی که یک دسته عروسی را در روهتاک، یک شهر منطقه ای در ایالت هاریانا در شمال هند رهبری کرد، ۱۰۲ ساله بود. /p>

همانطور که در عروسی‌های شمال هند مرسوم است، او در تزئینات عروسی خود روی ارابه می‌نشیند و گلدسته‌هایی از اسکناس‌های روپیه هند به سر داشت، در حالی که یک گروه موسیقی جشن می‌نواخت و اعضای خانواده و روستاییان او را همراهی می‌کردند.

اما چاند به جای عروس در راه بود تا با مقامات دولتی ملاقات کند.

چند برای اینکه به مقامات ثابت کند که نه تنها زنده است بلکه سرزنده نیز به این موضوع متوسل شد. پلاکاردی که او در دست داشت، به گویش محلی اعلام کرد: “thara foofa zinda hai” که به معنای واقعی کلمه به “دایی شما زنده است” ترجمه می شود.

شش ماه قبل، مستمری ماهانه او به طور ناگهانی متوقف شد زیرا در سوابق دولتی “مرده” اعلام شد.

بر اساس طرح کمک هزینه سالمندی سامان هاریانا، افراد ۶۰ سال و بالاتر که درآمد آنها همراه با همسرشان از ۳۰۰۰۰۰ روپیه (۳۶۰۰ دلار) در سال تجاوز نمی کند، واجد شرایط دریافت مستمری ماهیانه ۲۷۵۰ روپیه (۳۳ دلار) هستند. .

در ژوئن ۲۰۲۰، دولت شروع به استفاده از یک سیستم الگوریتمی جدید ساخت – مخزن داده هویت خانواده یا پایگاه داده پریور پهچان پاترا (PPP) – برای تعیین صلاحیت مدعیان رفاه کرد.

PPP یک شناسه منحصر به فرد هشت رقمی است که به هر خانواده در ایالت ارائه می شود و جزئیات تولد و فوت، ازدواج، اشتغال، دارایی، و مالیات بر درآمد و سایر اطلاعات اعضای خانواده را دارد. این اطلاعات جمعیتی و اجتماعی-اقتصادی هر خانواده را با پیوند دادن چندین پایگاه داده دولتی برای بررسی واجد شرایط بودن آنها برای طرح های رفاهی ترسیم می کند.

ایالت گفت که PPP “داده های معتبر، تایید شده و قابل اعتماد همه خانواده ها” را ایجاد کرده و دسترسی شهروندان به همه طرح های رفاهی را اجباری کرده است.

اما در عمل، PPP به اشتباه چاند را به عنوان “مرده” علامت گذاری کرد و چند ماه از بازنشستگی او محروم شد. بدتر از آن، مقامات وضعیت «مرده» او را تغییر ندادند، حتی زمانی که او بارها و بارها شخصاً با آنها ملاقات کرد.

نارش، نوه چاند، گفت: «ما حداقل ۱۰ بار به دفاتر منطقه رفتیم، از این تعداد پنج بار او [چند] نیز ما را همراهی کرد. “حتی پس از چندین بار تلاش برای اصلاح این ناهنجاری در ادارات دولتی، و پس از ثبت شکایت شکایت در پورتال وزیر ارشد، هیچ اتفاقی نیفتاد.”

تنها پس از اینکه چاند تقلید یک مراسم ازدواج را انجام داد و با یک سیاستمدار محلی ملاقات کرد، سرانجام مقامات به اشتباه خود اعتراف کردند و حقوق بازنشستگی چاند را آزاد کردند.

چند یک نمونه مجزا از شکست الگوریتم نیست. بر اساس داده‌های ارائه شده توسط دولت در مجلس ایالتی در ماه اوت سال گذشته، دولت مستمری ۲۷۷۱۱۵ شهروند سالخورده و ۵۲۴۷۹ بیوه را در مدت سه سال به دلیل «مرده بودن» متوقف کرد.

با این حال، چندین هزار نفر از این ذینفعان واقعاً زنده بودند و به اشتباه به دلیل داده‌های نادرست وارد شده به پایگاه داده PPP یا پیش‌بینی‌های اشتباه الگوریتم، مرده اعلام شده بودند.

چنین ناهنجاری‌ها تنها به مستمری‌های سالمندی محدود نمی‌شوند. ذینفعان مستمری از کارافتادگی و بیوه و سایر طرح‌های رفاهی مانند غذای یارانه‌ای نیز حذف شده‌اند، زیرا الگوریتم PPP پیش‌بینی‌های اشتباهی درباره درآمد یا اشتغال آنها انجام داده و آنها را از معیارهای واجد شرایط بودن مستثنی می‌کند.

وقتی افرادی که به اشتباه توسط الگوریتم پاک شده بودند برای تصحیح سوابق نزد مقامات دولتی رفتند، با تشریفات اداری مواجه شدند. بسیاری از آنها از دفتری به دفتر دیگر منتقل شدند و مجبور شدند درخواست های بی پایانی را برای اثبات این امر بدیهی – که آنها در واقع زنده هستند – تشکیل دهند.

مصیبت‌هایی که صدها هزار شهروند در تصحیح داده‌هایشان با آن مواجه شده‌اند، PPP را به یکی از بحث‌برانگیزترین طرح‌های دولتی دولت هاریانا در سال‌های اخیر تبدیل کرده است. حزب مخالف آن را «پارشانی پاترا دائمی» (سند ناراحتی دائمی) نامیده و قول داده است که در صورت به قدرت رسیدن در انتخابات مجلس بعدی که در سال ۲۰۲۴ برگزار می شود، این برنامه را لغو خواهد کرد.

با این حال، دولت نه تنها به دفاع، بلکه حتی گسترش برنامه ادامه می دهد. صوفیه داهیه، دبیر بخش اطلاعات منابع شهروندی که عملکرد PPP را مدیریت می‌کند، در سپتامبر ۲۰۲۲ به الجزیره گفت: «PPP ارائه خدمات به ذینفعان مناسب و جلوگیری از نشت را با استفاده از هوش مصنوعی و یادگیری ماشین تسهیل و بهبود می‌بخشد. . پیوند بین پایگاه‌های اطلاعاتی مختلف برای به دست آوردن یک پایگاه داده یکپارچه که «منبع واحد حقیقت» بود، انجام شد.

هند تقریباً ۱۳ درصد از تولید ناخالص داخلی خود یا نزدیک به ۲۵۶ میلیارد دلار را صرف ارائه مزایای رفاهی برای حدود نیمی از جمعیت کشور می کند. دولت فدرال و چندین دولت ایالتی با نگرانی از غصب چنین مزایا توسط مدعیان واجد شرایط، به طور فزاینده ای به فناوری برای از بین بردن کلاهبرداری های رفاهی متکی هستند.

در چند سال گذشته، حداقل نیمی از ایالت‌ها سیستم‌های الگوریتمی را برای پیش‌بینی واجد شرایط بودن شهروندان برای طرح‌های رفاهی اتخاذ کرده‌اند. طی سال گذشته، الجزیره، با مشارکت شبکه پاسخگویی هوش مصنوعی (AI) مرکز پولیتزر، استفاده و تأثیر چنین الگوریتم‌های رفاهی را بررسی کرد.

نمایه خانواده ها

منوهار لعل ختر، رئیس وزیر هاریانا، برنامه PPP را در جولای ۲۰۱۹ راه اندازی کرد و یک سال بعد آن را برای همه مزایای رفاهی اجباری کرد.

در غیاب قوانین حفظ حریم خصوصی، احزاب مخالف این اقدام را برای جمع آوری اطلاعات شخصی شهروندان برای ایجاد PPP به چالش کشیدند. دولت استدلال کرد که بدون اینکه مدعیان نیاز به نشان دادن هیچ مدرکی یا نیاز به تأیید میدانی داشته باشند، امکان تحویل “فعالانه” رفاه را فراهم کرده است. در سپتامبر ۲۰۲۱، با تصویب قانون هاریانا پریور پهچان، برنامه را مورد تحریم قانونی قرار داد.

در عرض یک سال، با این حال، مشکلات گسترده با داده های PPP شروع به ظهور کردند. پس از اینکه شیرین کاری «مصوب عروسی» چاند به سرفصل خبرها رسید، هزاران فقیر در دفاتر منطقه اداره رفاه اجتماعی ازدحام کردند و از محرومیت خود از این طرح ها شکایت کردند. اعتراض عمومی دولت را مجبور کرد تا اردوگاه های رسیدگی به شکایات را در سراسر ایالت راه اندازی کند تا داده های PPP را بررسی کند.

در ۲۹ اوت ۲۰۲۳، وزیر ختر اعتراف کرد که از مجموع ۶۳,۳۵۳ ذی‌نفع که مستمری سالمندی آنها بر اساس داده‌های PPP متوقف شد، ۴۴,۰۵۰ (یا ۷۰ درصد) بعداً واجد شرایط بودند. اگرچه ختر ادعا کرد که دولت اکثر سوابق اشتباه را تصحیح کرده و مزایای افرادی که به اشتباه حذف شده‌اند را احیا کرده است، گزارش‌های رسانه‌ها حاکی از آن است که اشتباهات همچنان پابرجا هستند.

جعبه سیاه الگوریتمی

دولت به درخواست‌های الجزیره حق دسترسی به اطلاعات (RTI) که به دنبال اطلاعاتی در مورد طراحی و عملکرد پایگاه داده برای تعیین اینکه چه چیزی منجر به اشتباهات در پایگاه داده PPP شده است، پاسخ نداد.

با این وجود، چند سند دولتی در دسترس عموم، نگاهی به عملکرد این برنامه ارائه می‌دهند.

برای ساخت پایگاه داده، دولت ابتدا اطلاعات جمعیتی و هویتی خانواده‌ها را جمع‌آوری کرد، از جمله شماره Aadhaar، شماره هویت منحصربه‌فرد مبتنی بر بیومتریک که به هر شهروند هندی تخصیص داده می‌شود، مدرک سنی آنها، حساب‌های بانکی، و شماره‌های شناسایی مالیاتی از طریق اپراتورهای ورودی داده در سطح روستا.

سپس یک سیستم الکترونیکی متمرکز از احراز هویت مبتنی بر Aadhaar برای تطبیق هویت شهروندان در سایر پایگاه‌های داده دولتی مانند ثبت احوال و وفات، اسناد زمین و دارایی، پایگاه‌های اطلاعاتی کارکنان دولت، مصرف برق، و پایگاه‌های داده‌های اظهارنامه مالیات بر درآمد و غیره استفاده کرد. ، برای ایجاد نمایه های اجتماعی-اقتصادی جامع خود.

سپس از این داده ها برای تأیید “الکترونیکی” درآمد سالانه، سن و سایر شرایط واجد شرایط بودن متقاضیان استفاده شد. در مواردی که تأیید الکترونیکی به دلیل در دسترس نبودن داده ها امکان پذیر نبود، تأیید فیزیکی میدانی انجام شد. در مواردی که تأیید فیزیکی انجام نشد، درآمد خانواده توسط «هوش مصنوعی مبتنی بر منطق [AI]» به دست می‌آید.

دفتر وزیر ارشد و بخش‌هایی که PPP و طرح‌های بازنشستگی سالمندی را اداره می‌کنند به سؤالات الجزیره در مورد منطق، فرمول و کد منبع استفاده شده توسط هوش مصنوعی پاسخ ندادند. همچنین روشن نکرد که آیا خطاهای PPP ناشی از ورود اشتباه داده ها یا پیش بینی های نادرست توسط هوش مصنوعی است. دولت همچنین به پرسش RTI Dhuli Chand که از مقامات خواسته است توضیح دهند چرا PPP او را “مرده” علامت گذاری کرده است، پاسخ نداده است.

خطار به مجلس ایالتی گفت که خانواده ها می توانند تأیید درآمد انجام شده توسط PPP را از طریق “مکانیسم های آنلاین تعیین شده” به چالش بکشند.

اما حتی خانواده‌هایی که داده‌هایشان در نهایت تصحیح شد به الجزیره گفتند که روند دست‌وپنجه نرم کردن با یک مکانیسم رسمی بی‌پاسخ سخت و زمان‌بر است.

مرگ بر اساس داده

رام چاندر و همسرش اومپاتی، هر دو ۶۰ ساله، ساکن روستای چیچرانا در هاریانا هستند. در مارس ۲۰۲۲، این زوج متوجه شدند که مستمری سالمندی آنها که تنها شش ماه پیش شروع شده بود، به دلیل اعلام مرگ آنها در پایگاه داده PPP متوقف شده است.

رام چاندر شکایات متعددی را به ادارات دولتی مختلف ارائه کرد اما بی نتیجه بود. در ماه مه، او یک سوگندنامه امضا شده توسط دفتر اسناد رسمی را به مقامات دولتی تسلیم کرد مبنی بر اینکه او و همسرش زنده هستند و بازنشستگی آنها دوباره شروع می شود.

در ژوئیه ۲۰۲۲، پایگاه داده PPP وضعیت آنها را به “زنده” تصحیح کرد، اما این خطا در پایگاه داده دولتی دیگری ادامه یافت. اپراتور محلی ورود اطلاعات درخواست آنها را مبنی بر “علامت گذاری به عنوان زنده” پذیرفت و سرانجام پس از معرفی خود به دفتر معاون اضافی کمیسر (ADC) که اجرای PPP در سطح منطقه را بر عهده دارد، تأیید شد. بازنشستگی این دو تا شش ماه پس از قطع شدن آنها دوباره شروع شد.

چاندر در سپتامبر ۲۰۲۲ به الجزیره گفت: «من از مارس ۲۰۲۲ به طور مداوم از دفتر ADC بازدید کرده ام. آنها به من گفتند که اشتباه تصحیح شده است. سپس از اپراتور محلی ورود داده بازدید کردم و متوجه شدم که وضعیت من هنوز “مرده” است و بنابراین دوباره به دفتر ADC رفتم. هر بار این اتفاق می افتاد.”

الجزیره با چند خانواده دیگر در هاریانا ملاقات کرد که به دلیل اشتباهات در PPP از حقوق بازنشستگی خود محروم شده بودند.

دایا کور، ۶۴ ساله، با خانواده دو پسر، یک عروس و دو نوه خود زندگی می کند. پس از مرگ همسرش امپراکاش در سال ۱۹۹۶، او شروع به دریافت مستمری ماهانه بیوه ایالت کرد. زنان بیوه در حال حاضر ماهانه ۲۷۵۰ روپیه (۳۳ دلار) تحت این طرح دریافت می کنند. اما حقوق بازنشستگی کور در مارس ۲۰۲۲ متوقف شد. طبق سوابق PPP، او و نوه‌اش هر کدام ۶۰۰۰۰۰ روپیه (۷۲۰۰ دلار) درآمد سالانه داشتند. نوه او فقط نه سال داشت.