آیا شی جین پینگ می تواند هوش مصنوعی را بدون خرد کردن کنترل کند؟

منN در ماه‌های گذشته، غول‌های فناوری چین خودنمایی کرده‌اند. علی بابا ، Baidu ، Huawei و SenseTime همگی مدل‌های هوش مصنوعی (AI) خود را به نمایش گذاشته‌اند که می‌تواند محصولات و برنامه‌هایی مانند تولیدکننده تصویر را تقویت کند. ، دستیارهای صوتی و موتورهای جستجو. برخی ربات‌های چت مجهز به AI مشابه ChatGPT ، مکالمه وار شبیه انسان در آمریکا توسعه یافته است که کاربران را خیره کرده است. محصولات جدید دارای نام هایی مانند Ernie Bot (بایدو)، SenseChat (SenseTime) و Tongyi Qianwen (Alibaba) هستند. دومی تقریباً به عنوان “حقیقت از هزاران سوال” ترجمه می شود. اما در چین، حزب کمونیست تعریف می کند حقیقت .

AI چالشی را برای حاکمان چین ایجاد می کند. مرتب‌سازی «تولیدکننده» که ورودی‌های متن، تصویر، صدا یا ویدیو را پردازش می‌کند تا خروجی‌های جدیدی از آن ایجاد کند، نویدبخش است. شرکت‌های فناوری چینی در سال‌های اخیر تحت تأثیر یک سرکوب قانونی و فروش اندک، امیدواریم که AI مولد بتواند جریان‌های درآمد جدیدی ایجاد کند، مشابه فرصت‌هایی که با ظهور اینترنت یا تلفن هوشمند به ارمغان می‌آورد.

با این حال، طرف می بیند که AI مولد راه های جدیدی را برای انتشار اطلاعات خارج از کنترل خود باز می کند. رهبران آن ممکن است مقایسه‌های متفاوتی با اینترنت انجام دهند که به نظر می‌رسید با افزایش دسترسی به اخبار و ابزارهای ارتباطی بدون فیلتر به دموکراتیزه کردن چین کمک کند. بیل کلینتون در سال ۲۰۰۰ تلاش های حزب برای کنترل وب را با «میخ زدن ژله به دیوار» توصیف کرد. با این حال، حزب با استقرار ارتشی از سانسورها و موانع دیجیتال تا حد زیادی در ایجاد اینترنت که اهداف خود را برآورده می‌کند، موفق شد و صنعت را در اطراف آن پرورش داد. ممکن است چیزی مشابه با AI اتفاق بیفتد؟

قوانین پیشنهادی تنظیم‌کننده اینترنت چین در ۱۱ آوریل نگرانی‌های دولت را روشن می‌کند. طبق گفته اداره فضای سایبری چین (CAC)، شرکت ها باید قبل از استفاده از محصولات تولیدی AI برای ارائه خدمات به مردم، ارزیابی امنیتی را به دولت ارائه دهند. شرکت ها مسئول محتوایی هستند که چنین ابزارهایی تولید می کنند. این محتوا، طبق قوانین، نباید قدرت دولتی را براندازد، به تجزیه طلبی دامن بزند، به وحدت ملی آسیب برساند یا نظم اقتصادی یا اجتماعی را برهم بزند. و باید مطابق با ارزش های سوسیالیستی کشور باشد. این محدودیت‌ها ممکن است محرمانه به نظر برسند، اما قوانین مشابهی که در اینترنت اعمال می‌شود، به حزب اجازه می‌دهد تا سخنان خود را درباره همه چیز از حقوق اویغورها برای دموکراسی، فمینیسم و ​​ادبیات همجنسگرایان.

پیشنهادات چین در حالی ارائه می شود که دولت های سراسر جهان با نحوه تنظیم هوش مصنوعی کوچک . برخی، مانند آمریکا، با تکیه بر قوانین موجود برای نظارت بر فناوری، طرفدار یک لمس سبک هستند. برخی دیگر بر این باورند که رژیم های نظارتی جدیدی مورد نیاز است. eu قانونی پیشنهاد کرده است که کاربردهای مختلف AI را طبقه بندی می کند و الزامات سختگیرانه فزاینده ای را بر اساس درجه خطر اعمال می کند. رویکرد چین بیشتر تکه تکه و ارتجاعی به نظر می رسد. به عنوان مثال، سال گذشته، حزب نگران بود که تصاویر و ویدیوهای “دیپ جعلی” ممکن است محیط اطلاعاتی به شدت کنترل شده را مختل کند، بنابراین قوانین جدیدی در مورد این فناوری صادر کرد. یکی از رسانه‌های ممنوعه تولید شده توسط AI بدون برچسب مبدأ مشخص.

رویکرد چین به اینترنت شباهت‌هایی دارد. کنترل های وب آن، که اغلب به عنوان “دیوار آتش بزرگ” شناخته می شود، ممکن است یکپارچه به نظر برسند. اما حفظ محتوای خارجی «مضر» تنها بخشی از تلاش لایه‌ای است که در طول زمان توسعه یافته و بسیاری از آژانس‌ها و شرکت‌ها را درگیر می‌کند. مت شیهان از بنیاد کارنگی برای صلح بین‌المللی، یک اندیشکده، می‌گوید: مرحله اول تماماً در مورد ایجاد بستری برای اینترنت بود که حزب بتواند آن را کنترل کند. امروز دولت چین دوباره در حال تقویت عضلات بوروکراتیک خود و افزودن به مجموعه ابزار نظارتی خود است، این بار با در نظر گرفتن AI مولد. آقای شیهان می‌گوید اجباری کردن بررسی‌های امنیتی و الزام شرکت‌ها به ثبت الگوریتم‌های خود در دولت نمونه‌هایی از این موضوع است.

کنترل چین بر اینترنت، نوآوری را خفه نکرده است: فقط به شرکت‌ها نگاه کنید. مانند ByteDance ، مادر چینی TikTok، یک ویدیوی کوتاه محبوب برنامه اما وقتی صحبت از AI مولد به میان می‌آید، دشوار است که ببینیم چگونه یک شرکت چینی می‌تواند چیزی به گستره وسیع و انسان‌مانند (یعنی غیرقابل پیش‌بینی) مانند ChatGPT ایجاد کند. در حالی که در چارچوب قوانین دولت باقی مانده است.

CAC می گوید که اطلاعات تولید شده توسط چنین ابزارهایی باید “درست و دقیق” باشد و داده هایی که برای آموزش آنها استفاده می شود “هدفی” باشد. حزب تعاریف خاص خود را از این واژه ها دارد. اما حتی پیشرفته‌ترین ابزارهای AI مبتنی بر مدل‌های زبان بزرگ نیز گهگاه چیزهایی را منتشر می‌کنند که واقعاً نادرست هستند. برای محصولی مانند ChatGPT که از صدها گیگابایت داده گرفته شده از سراسر اینترنت تغذیه می‌شود، به سختی می‌توان از طریق ورودی‌ها برای عینیت آنها مرتب کرد. اجرای دقیق قوانین چین به جز توقف توسعه AI مولد در چین خواهد بود.

بنابراین کارشناسان تردید دارند که این اقدامات به شدت اجرا شود. در پیش نویس مقررات، زمینه برای تعدیل وجود دارد. وقتی محتوای تولید شده خارج از قوانین باشد، دولت خواستار «فیلتر کردن و سایر اقدامات مشابه» و «آموزش بهینه‌سازی ظرف سه ماه» است. این به نظر شبیه بهینه‌سازی مدل‌هایی است که شرکت‌های غربی انجام داده‌اند تا مثلاً چت‌بات‌هایشان را از انتشار محتوای همجنس‌گرا هراسی بازدارند. مقررات محلی AI که توسط شهر شانگهای معرفی شده است، حتی ضعیف‌تر است و تصریح می‌کند که نقض قوانین جزئی ممکن است به هیچ وجه مجازات نشود.

طبیعت دلخواه قوانین پیشنهادی CAC به این معنی است که می‌تواند آن‌ها را هر طور که صلاح می‌داند سفت یا شل کند. سایر کشورها ممکن است چنین انعطاف پذیری را تأیید کنند. اما همانطور که شرکت‌های بزرگ اینترنتی می‌توانند تأیید کنند، دولت چین عادت دارد قوانین را بر اساس خواسته‌های رئیس‌جمهور شی جین‌پینگ بازنویسی و به طور انتخابی اجرا کند. در سال‌های اخیر، شرکت‌ها در زمینه‌هایی مانند تجارت الکترونیک، رسانه‌های اجتماعی و بازی‌های ویدیویی مجبور شده‌اند در مدل‌های کسب‌وکار خود تجدیدنظر کنند. برای مثال، در سال ۲۰۲۱، رسانه‌های دولتی بازی‌های ویدیویی را «تریاک معنوی» نامیدند: قانون‌گذاران به شرکت‌های بازی‌سازی گفتند که تمرکزشان را روی نتیجه نهایی نگذارند و تمایل بچه‌ها به بازی را کاهش دهند. اگر آقای شی دوست ندارد AI مولد به کجا می رود، می تواند آن صنعت را نیز بازنشانی کند.

AI چینی یک طرفه

ممکن است شرکت‌های کوچک با محدود کردن داده‌های شخصی که برای آموزش مدل‌های AI در دسترس هستند، متوقف شوند. این حزب پیچیده ترین ایالت نظارت جمعی جهان را اداره می کند. تا همین اواخر، شرکت های فناوری چین نیز قادر به جمع آوری اطلاعات شخصی بودند. اما به نظر می رسد که این دوران آزادسازی (برای بخش خصوصی) رو به پایان است. اکنون شرکت هایی که می خواهند از انواع خاصی از داده های شخصی استفاده کنند، از نظر تئوری باید رضایت خود را دریافت کنند. سال گذشته CAC Didi Global، یک شرکت اشتراک‌گذاری سواری را به دلیل جمع‌آوری غیرقانونی و سوء استفاده از داده‌های کاربران، معادل ۱.۲ میلیارد دلار جریمه کرد. بر اساس پیش‌نویس قوانین مربوط به AI، شرکت‌ها مسئول حفاظت از اطلاعات شخصی کاربران خواهند بود.

ژله جدید، ناخن های جدید

CAC مقررات پیشنهادی شش سال پس از آن آمده است که طرح جامع چین برای AI خواستار “پیشرفت های بزرگ” تا سال ۲۰۲۵ و تسلط بر صنعت تا سال ۲۰۳۰ شده بود. پیشرفت به سمت این اهداف متفاوت بوده است. شرکت‌های چینی در زمینه‌هایی مانند تشخیص تصویر با کمک AI و رانندگی خودکار، که ترس کمتری از دغدغه‌های دولت با ثبات اجتماعی دارند، عملکرد خوبی دارند. آنها از پول عمومی زیادی سود می برند – در واقع، برخی ابزارهایی را ارائه می دهند که سرکوب دولتی را امکان پذیر می کند.

اما چین از نظر سرمایه گذاری و نوآوری همچنان از آمریکا عقب است. تحریم های آمریکا سرمایه گذاران خارجی را از کار انداخته است. بدتر از آن، آمریکا صادرات نیمه هادی های پیشرفته را به چین محدود کرده است که AI را تامین می کند، اقدامی که می تواند صنعت را دچار مشکل کند.

چین. ممکن است هنگام تنظیم مقررات موفقیت بیشتری داشته باشد. چین طبق طرح جامع خود تا سال ۲۰۳۰ کد اخلاقی جهان را برای AI بنویسد. در جای دیگری پیشنهاد شد، بنابراین بر بحث در مورد مدیریت فناوری جدید تأثیر گذاشت. اگر چین به سرعت قوانین جدیدی وضع کند، کشورهای دیگر از آن درس خواهند گرفت. یک ریسک این است که بیش از حد قوی حرکت می کند و مانع نوآوری می شود. اما جفری دینگ از دانشگاه جورج واشنگتن به طرف دیگر بحث اشاره می کند. او به نبوغ شرکت‌های اینترنتی چین اشاره می‌کند و می‌گوید که گاهی اوقات موانع باعث نوآوری می‌شوند.

با این وجود، این ایده که چین ممکن است به عنوان راهنمای اصلی در مورد عمل کند. اخلاق AI باید دولت های غربی را به وحشت بیاندازد. آنها ممکن است نگرانی های مشابهی با چین داشته باشند، از جمله در مورد اطلاعات نادرست و حفاظت از داده ها، اما نه به دلایل مشابه. باز هم، تجربه چین با اینترنت آموزنده است. این کشور به شدت با مفهوم وب به عنوان مکانی برای آزادی و باز بودن مخالفت کرده است. زمانی که دولت‌ها برای بحث در مورد مقررات آنلاین گرد هم می‌آیند، چین به طور مداوم در کنار روسیه و سایر ناقضان آزادی بیان قرار می‌گیرد. آقای کلینتون ساده لوح بود که فکر می کرد حزب کمونیست نمی تواند اینترنت را تسلیم کند. برای رهبران غربی ساده لوحانه است که فکر کنند نمی توانند همین کار را با AI انجام دهند. ■

مشترکین می توانند در ثبت نام کنند Drum Tower ، خبرنامه هفتگی جدید ما، برای درک آنچه جهان از چین می سازد—و چین از جهان چه می سازد.