نظارت تشخیص چهره در سائوپائولو می تواند نژادپرستی را بدتر کند

سائوپائولو، برزیل – در حالی که شهر سائوپائولو آماده راه اندازی می شود هزاران دوربین مداربسته با تشخیص چهره، کارشناسان در مورد استفاده بی رویه از این فناوری در کلان شهر برزیل نگرانی هایی را مطرح می کنند که می تواند مشکلاتی مانند نژادپرستی ساختاری و نابرابری را تشدید کند و در عین حال خطراتی را برای حریم خصوصی داده ها و امنیت سایبری ایجاد کند.

پروژه Smart Sampa جدیدترین در میان مجموعه ای از ابتکارات مربوط به تکنیک های نظارت مدرن در ایالت های مختلف برزیل است. این به دلیل جمعیتی که بر آن تأثیر می گذارد قابل توجه است: سائوپائولو، پرجمعیت ترین شهر در نیمکره جنوبی، خانه ۱۲ میلیون نفر است.

این پروژه با هدف راه اندازی یک پلت فرم نظارت تصویری واحد است که عملیات خدمات اضطراری و ترافیک، شبکه حمل و نقل عمومی شهر و نیروهای پلیس را ادغام و پشتیبانی می کند. تا سال ۲۰۲۴، حداکثر ۲۰۰۰۰ دوربین نصب خواهد شد و تعداد مساوی دوربین شخص ثالث و دوربین خصوصی در شبکه یکپارچه خواهد شد.

دوربین‌های جدید شهر را قادر می‌سازد تا بر مدارس، مراکز پزشکی، فضاهای عمومی مانند میادین و پارک‌ها و همچنین محتوای رسانه‌های اجتماعی مرتبط با مدیریت عمومی نظارت کند.

ترکیب تجزیه و تحلیل بلادرنگ و فناوری تشخیص چهره – که با استفاده از الگوریتم‌های هوش مصنوعی (AI) چهره‌ها را در یک فضای معین شناسایی و مقایسه می‌کند – به منظور تسریع فرآیند شناسایی مجرمان تحت تعقیب، اتومبیل‌های دزدیده شده، افراد مفقود، گمشده اشیاء، و مدیریت حمل و نقل عمومی در سراسر شهر.

ریکاردو نونس، شهردار سائوپائولو، در جریان راه اندازی مجدد روند مناقصه در ماه مه، گفت: “ما امیدواریم که فرآیند قرارداد [برای Smart Sampa] را در اسرع وقت به نتیجه برسانیم، زیرا این امر امنیت و تحرک را در شهر افزایش می دهد.”

به‌شدت در هر دو حوزه به بهبود نیاز است و شکایات در مورد زمان‌های انتظار بیش از حد از کاربران اتوبوس به سازمان حمل‌ونقل شهری در سه ماهه اول سال ۲۰۲۳ ۴۲ درصد افزایش یافته است و داده‌های بخش امنیت شهری افزایش ۳۵.۷ درصدی را در سرقت در شهر در سال ۲۰۲۳ نسبت به سال ۲۰۲۱.

با داده‌های بی‌درنگ دوربین‌ها و الگوریتم‌ها، شهر انتظار دارد که سریع‌تر وقایع را پیش‌بینی کند و بر اساس آنها عمل کند. همچنین امیدوار است الگوهای ترافیک و نقاط ازدحام احتمالی را پیش‌بینی کند و از بینش‌ها برای تنظیم برنامه‌های اتوبوس استفاده کند.

علی‌رغم جذابیت فناوری‌های نظارت از راه دور در حل مشکلات شهر، منتقدان Smart Sampa می‌ترسند که این پروژه حقوق اساسی انسانی شهروندان از جمله حریم خصوصی، آزادی بیان، تجمع و انجمن را نقض کند.

این نگرانی‌ها منجر به تعلیق روند مناقصه در دو نوبت شد و باعث شد که دادستان‌های عمومی در مورد مشکلات احتمالی پروژه در زمینه‌هایی از جمله حریم خصوصی شهروندان تحقیقاتی انجام دهند.

پس از اینکه دادگاه‌های سائوپائولو به این نتیجه رسیدند که شواهد کافی برای اثبات مغرضانه بودن سیستم علیه افراد سیاه‌پوست وجود ندارد، روند قرارداد ادامه یافت. PK9، یک شرکت فناوری مستقر در سائوپائولو، پیشنهاد ماهیانه ۹.۲ میلیون رئال برزیل (۱.۸ میلیون دلار) را برای راه اندازی سیستم در یک دوره ۶۰ ماهه ارائه کرد.

خطرات برای سیاهپوستان برزیل

براساس موسسه آمار و جغرافیای برزیل، یکی از موضوعات کلیدی که کارشناسان در رابطه با Sampa هوشمند تاکید کرده اند، به پیامدهای منفی این سیستم مربوط می شود، به ویژه برای گروه هایی مانند جامعه سیاه پوست که ۵۶ درصد از جمعیت برزیل را تشکیل می دهند. (IBGE). کارشناسان استدلال می کنند که این پروژه می تواند حق عدم تبعیض را تضعیف کند و اصل فرض برائت را به چالش بکشد.

به گفته فرناندا رودریگز، وکیل حقوق دیجیتال و هماهنگ کننده تحقیقات در مؤسسه تحقیقات اینترنت و جامعه (IRIS)، فناوری تشخیص چهره این پتانسیل را دارد که به نتایج مثبت کاذب منجر شود – تطبیق اشتباه چهره یک فرد با تصویری در پایگاه داده –  و در نتیجه منجر به حبس انبوه افراد سیاه پوست شود.

رودریگز گفت: «به‌علاوه خطراتی که ممکن است اطلاعاتی که به این پلتفرم‌ها داده می‌شود دقیق نباشد و خود سیستم از کار بیفتد، مشکلی وجود دارد که مقدم بر پیامدهای فناوری است، که نژادپرستی است.
رودریگز با اشاره به حضور بالای سیاهپوست افزود: «ما می دانیم که سیستم کیفری در برزیل گزینشی است، بنابراین می توانیم نتیجه بگیریم که [استفاده از نظارت با تشخیص چهره] تماماً به منظور افزایش خطرات و آسیب های این جمعیت است». طبق داده‌های سال ۲۰۲۲ انجمن امنیت عمومی برزیل، افراد در زندان‌های برزیل که بیش از ۶۷ درصد از جمعیت زندانی را تشکیل می‌دهند.

یک مطالعه انجام شده توسط مرکز مطالعات امنیت عمومی و شهروندی (CESeC)، که تأثیر استفاده از تشخیص چهره توسط پلیس در سراسر کشور را بررسی می کند، نشان داد که بیش از ۹۰ درصد از افرادی که از طریق تصمیمات مبتنی بر تشخیص چهره در برزیل دستگیر شده اند. سیاه هستند بر اساس داده‌های اتاق مدافعان عمومی ریودوژانیرو، در ایالت ریودوژانیرو، درصد دستگیری‌های ناعادلانه بر اساس شناسایی عکس‌ها و شامل افراد سیاه‌پوست در سال ۲۰۲۱ به ۸۱ درصد رسید.

مشکل دیگر مربوط به عدم باز بودن پروژه است. یکی از سازمان‌های پشتیبان کمپین ملی «چهره من را از هدف خود بردارید» و سایر ابتکاراتی که خواستار ممنوعیت تشخیص چهره هستند، CESeC و سایر سازمان‌های غیرانتفاعی درگیر تعدادی از اقدامات قانونی علیه دولت‌هایی هستند که این فناوری را به کار می‌گیرند. برای امنیت شهری و اهداف دیگر.

سال گذشته تالار شهر سائوپائولو یک مشاوره عمومی مجازی در دو هفته آخر ماه اوت برگزار کرد و از کارشناسان دعوت کرد تا نظرات خود را با یک روز در نظر گرفته شده برای دریافت پاسخ به سؤالات خود ارائه دهند.

سلینا بوتینو، مدیر پروژه در موسسه فناوری و جامعه ریودوژانیرو، گفت: «مشارکت محدود بود و پیشنهادات ارائه شده تا حد زیادی نادیده گرفته شدند.

در پاسخ به مخالفت عمومی، مناقصه Smart Sampa با مطالعه‌ای در مورد تأثیر فناوری به‌روزرسانی شد، که کاستی‌هایی مانند احتمال زیاد سوگیری در ویژگی‌های تشخیص چهره و همچنین خطر استفاده غیرمجاز را تأیید کرد. و افشای اطلاعات شخصی، و همچنین احتمال نقض حریم خصوصی.

برای رسیدگی به این خطرات، این گزارش خاطرنشان کرد که این پلتفرم فقط تشخیص‌هایی را با برابری ۹۰ درصدی در نظر می‌گیرد و همه هشدارهای صادر شده توسط پرسنل آموزش دیده برای کاهش بی‌عدالتی، و همچنین یک سیستم پیشرفته حفاظت از داده و کنترل دسترسی، تجزیه و تحلیل می‌شود.

تماس برای تعلیق

دفتر مدافع عمومی سائوپائولو در ماه مه، در کنار آزمایشگاه سیاست عمومی و اینترنت (LAPIN) و Uneafro Brasil، با حمایت Rede Liberdade، شبکه‌ای از متخصصان حقوقی که با سازمان‌های حقوق بشری کار می‌کنند، یک شکایت مدنی آغاز کرد. پرونده در حال انجام خواستار تعلیق پروژه و توقف استفاده از سیستم های تشخیص چهره برای ایمنی شهری است.

“تشخیص چهره یک فناوری پیچیده با جنبه هایی است که هنوز به طور کامل نقشه برداری نشده اند، که آن را با فرآیند مناقصه ناسازگار می کند، زیرا [این قالب] شفافیت و مشارکت لازم را نمی دهد. این سازمان‌ها در بیانیه‌ای گفته‌اند که این یک سری خطرات را متوجه حقوق اساسی جمعیت‌های آسیب‌پذیر، مانند افراد سیاه‌پوست و ترنس‌جندر، و همچنین کودکان می‌کند.

دعای مدنی همچنین استدلال می‌کند که مطالعه تأثیر فاقد نظرات و مطالعات دقیق در مورد آسیب‌های احتمالی فناوری، و همچنین راه‌های غلبه بر خطرات است: «شهرداری فقط جنبه‌های خاصی در مورد تأثیرات هوشمند ارائه می‌کند. برنامه سامپا، که به ندرت با جامعه مدنی و سایر نهادها مورد بحث قرار می گرفت، می گوید سوریلی یوسف، مدافع عمومی.

سیسیلیا ناسیمنتو فریرا، مدافع عمومی، می‌گوید: «حتی اگر تأمین‌کننده‌ای قبلاً انتخاب شده باشد، در صورت مشاهده نقض حقوق یا اصول مدیریت عمومی، خدمات ممکن است در هر زمانی به حالت تعلیق درآید.

او می افزاید: «اما این اقدام قضایی به دنبال جلوگیری از صرف بودجه عمومی برای فناوری بی پروا قرارداد شده از طریق روش ناکافی با توجه به پیچیدگی خدمات بود.

دولت سائوپائولو به درخواست‌های الجزیره برای مصاحبه پاسخ نداد.

در جاهای دیگر قاره آمریکا، همسایه برزیل، آرژانتین، سال گذشته استفاده از تشخیص چهره در پایتخت خود بوینس آیرس را غیرقانونی دانست. در ایالات متحده، چندین ایالت موضع خود را برای ممنوعیت تشخیص چهره برای حمایت از خدمات عمومی مورد تجدید نظر قرار دادند، حتی اگر این فناوری عمدتاً نظارت نشده است. از سوی دیگر، پذیرش این فناوری در کشورهای سراسر جهان مانند چین و هند پیشرفت کرده است، البته نه بدون انتقاد.

پابلو نونز، دانشمند علوم سیاسی و هماهنگ کننده در CESeC، می گوید: «به نظر می رسد عواملی مانند شفافیت و مسئولیت پذیری در کاربرد این فناوری های جدید توسط تصمیم گیرندگان در سراسر جهان فراموش شده است. “حتی در سناریویی که ممنوعیتی اتفاق نمی‌افتد، امیدوارم که ما حداقل تدابیر و مقررات را برای استفاده از تشخیص چهره در برزیل داشته باشیم.”