هوش مصنوعی چگونه سیاستمداران مرده هندی را در آستانه انتخابات زنده می کند

بنگالور، هند – در ۲۳ ژانویه، نماد سینما و سیاست هند، M Karunanidhi برای تبریک به دوست ۸۲ ساله و سیاستمدار همکارش TR Baalu ​​در یک صفحه نمایش بزرگ در برابر مخاطبان زنده ظاهر شد.

با عینک آفتابی مشکی، پیراهن سفید، و شالی زرد دور شانه‌هایش – سبک کارونانیدی کاملاً مشخص بود. این شاعر کهنه کار و سیاستمدار در سخنرانی هشت دقیقه‌ای خود تبریک گفت. نویسنده کتاب، اما در ستایش از رهبری توانا MK استالین، پسرش و رهبر فعلی دولت نیز بسیار پرخاشگر بود.

کارونانیدی از سال ۲۰۱۸ مرده است.

این سومین بار در شش ماه گذشته بود که رهبر نمادین حزب Dravida Munnetra Kazhagam (DMK) با استفاده از هوش مصنوعی (AI) برای چنین رویدادهای عمومی زنده شد.

کارونانیدی گفت: «زمانی که همه‌گیری کووید جهان را ویران کرد، وزیر ارشد ما به سمت صدای وحشت زده مردم دوید. “ملت روشی را که شما برای نجات جان مردم جنگیدید، می داند، و من هم همینطور.”

سنتیل نایاگام، بنیانگذار Muonium، شرکت فناوری رسانه‌ای هوش مصنوعی که ویدیوی دیپ‌فک Karunanidhi را ساخت، به الجزیره گفت: «یک بازار [برای چنین دیپ‌فک‌هایی] باز است…. شما می توانید برخی از عبارات را به یک شخص خاص نسبت دهید و این به آن ارزش بیشتری می دهد.

اولین حضور عمومی AI Karunanidhi در یک رسانه محلی رویداد سال گذشته در سپتامبر که توسط دیگری برای کمپین اعضای حزبش پیگیری شد. رهبر قیام شده اغلب به کارگران حزب تبریک می گوید و به طور خاص رهبری پسرش MK استالین را ستایش می کند – با هدف افزایش محبوبیت او.

در رونمایی از کتاب ژانویه، آی‌آی کارونانیدی همه چیز را از بخشش بدهی‌های دانش‌آموزان و هدایای نقدی برای فقرا، تا سیاست‌های دوست‌دار زنان و طناب زدن در سرمایه‌گذاری بازگو کرد – فهرستی از دستاوردهای پسرش در طول سال‌ها که دولت را به جلو سوق داده است.

آخرین مصاحبه عمومی کارونانیدی در سال ۲۰۱۶ بود، قبل از اینکه صدایش درشت شود و بدنش ضعیف شود. نایاگام از داده‌های در دسترس عموم کارونانیدی برای آموزش مدل گفتار استفاده کرد و شباهت رهبر دهه ۱۹۹۰ را در زمانی که بسیار جوان‌تر بود، بازسازی کرد. او گفت که فیلمنامه سخنرانی از پیش ضبط شده هوش مصنوعی توسط کادر محلی DMK تهیه شده است و توسط پرسنل حزب بررسی شده است.

TR Baalu، که تیمش ایجاد AI Karunanidhi را تایید کرد، به درخواست الجزیره برای اظهار نظر پاسخ نداد.

کارونانیدی یکی از باسابقه‌ترین قانونگذاران هند بود که نزدیک به دو دهه ریاست ایالت تامیل نادو را بر عهده داشت و در مجموع پنج دوره به عنوان وزیر ارشد خدمت کرد. این شاعر که تبدیل به سیاستمدار شده بود، فیلمنامه‌هایی درباره رهایی طبقه پایین نوشت و همچنان در میان رای‌دهندگان مسن‌تر نفوذ دارد.

طبق گزارش‌های رسانه‌های محلی، واکنش به این ویدیوهای هوش مصنوعی، رهبری حزب DMK را بر آن داشت تا به فکر ایجاد سخنرانی‌های کمپین AI Karunanidhi در مبارزات انتخاباتی پارلمانی آینده ۲۰۲۴ باشد.

یک دوگانگی اخلاقی و قانونی

حتی زمانی که سیاستگذاران مواردی از انواع ارتباطات هوش مصنوعی را که باید تنظیم شوند، ارزیابی می‌کنند، در اولین استفاده از نوع خود، یک حزب سیاسی از هوش مصنوعی برای احیای یک نیرومند سیاسی گذشته برای ارتقای رهبر امروز استفاده کرد.

اما برخی از سوالات اخلاقی و حقوقی نگران‌کننده را نیز مطرح کرده است: «استفاده از هوش مصنوعی برای ایجاد صدا و ویدیوی مصنوعی توسط یک فرد زنده که محتوا را امضا کرده است، یک چیز است. امبر سینها، عضو ارشد Trustworthy AI در بنیاد موزیلا، گفت: زنده کردن یک مرده و نسبت دادن عقاید به آنها کاملاً چیز دیگری است.

اما جن در حال حاضر از بطری خارج شده است. به گفته Diggaj Mogra، مدیر Jarvis Consulting، یکی از بزرگترین مشاوران سیاسی هند، بازاریابی محتوای تسهیل شده با هوش مصنوعی برای کمپین های انتخاباتی، از جمله تماس های صوتی و پیامک های خروجی، ایجاد آواتار، گسترش رسانه های شخصی، و خلاقیت های چند زبانه ایجاد شده توسط هوش مصنوعی در رسانه های اجتماعی است. یک فرصت بازار ۶۰ میلیون دلاری در هند در این سال انتخابات.

نایاگام با اشاره به بازیگران سابق سیاستمدار، جایالالیتا، ام جی راماچاندران و ویجایاکانت گفت: «در تامیل نادو، همه رهبران بزرگ هر حزب دیگر نیستند. نایاگام گفت که با چندین کارمند سطح پایین در میان خطوط حزبی که علاقه مند به استفاده از هوش مصنوعی برای دیپ فیک های مشابه هستند در تماس بوده است.

او گفت که علاقه به چنین برنامه هایی پس از اینکه سال گذشته در X در سپتامبر یک کلیپ صوتی از برنامه Mann Ki Baat نخست وزیر نارندرا مودی که شرکت وی به هشت زبان شبیه سازی کرده بود. این پرسش‌های مورد علاقه به نایاگام و سایر مشاوران ایده یک فرصت تجاری در انتخابات هوش مصنوعی داده است.

در سطح جهان، بیش از ۶۰ کشور قرار است انتخابات ملی را در سال ۲۰۲۴ برگزار کنند و سوء استفاده احتمالی از هوش مصنوعی برای تأثیرگذاری بر افکار عمومی باعث وحشت اخلاقی شده است و به یک موضوع داغ جهانی تبدیل شده است.

پیش از مبارزات انتخاباتی ریاست جمهوری اندونزی، پرابوو سوبیانتو، ژنرال نظامی سابق متهم به ارتکاب جنایات علیه فعالان دموکراسی، از هوش مصنوعی مولد استفاده می کند تا خود را به عنوان یک آواتار هوش مصنوعی چاق گونه تصور کند تا رای دهندگان جوان را جذب کند.

>

در جنوب آسیا، استفاده از هوش مصنوعی برای مبارزات انتخاباتی و موارد سوء استفاده از اهمیت زیادی برخوردار شده است. در بنگلادش، اکانت های طرفدار دولت از دیپ فیک برای هدف قرار دادن احزاب مخالف استفاده کرده اند. در پاکستان، نخست‌وزیر سابق عمران خان از داخل سلول زندان خود با ارسال یادداشت‌های کتبی به وکلایش که با استفاده از نرم‌افزار استارت‌آپ Eleven Labs به سخنرانی‌های صوتی هوش مصنوعی تبدیل می‌شوند، مبارزات انتخاباتی انجام داده است.

سینها از بنیاد موزیلا گفت: «به نظر می‌رسد این استفاده خاص از هوش مصنوعی در کمپین‌ها در جنوب آسیا در حال گسترش است.

در ۲۱ ژانویه، حزب DMK دومین کنفرانس سالانه شاخه جوانان خود را در شهر معبد Salem ترتیب داد. این رویداد بزرگ که در یک عرصه باز برگزار شد، جمعیتی متشکل از ۵۰۰۰۰۰ هوادار را به خود جلب کرد و شروع رسمی کمپین انتخاباتی DMK در سال ۲۰۲۴ را نشان داد. رهبران حزب سخنرانی‌های هیجان‌انگیزی برای به چالش کشیدن حزب ملی‌گرای هندو بهاراتیا جاناتا (BJP) ارائه کردند و از سیاست‌های آن از جمله کاهش اختیارات ایالت‌ها توسط مرکز تحت حاکمیت BJP انتقاد کردند.

در این کمپین، AI Karunanidhi یک ویدیوی غافلگیرکننده دوباره ظاهر شد. کارونانیدی با تشریح تداوم خصومت BJP نسبت به تامیل نادو گفت: “حقوق بسیاری از کشورهایی که سخت جنگیده اند در حکومت ۱۰ ساله BJP از بین رفته است.”

ویدئوی سه دقیقه ای سخنرانی، همراه با موسیقی الهام بخش، به پایان می رسد AI Karunanidhi خواستار تقویت حقوق دولت است و از کادرهای جوان می خواهد برای یک آینده دموکراتیک مبارزه کنند.

دارانیدهران سلوام، سخنگوی DMK به الجزیره گفت: «این توسط شاخه رسانه دیجیتال حزب برای تشویق و تشویق کادرها ایجاد شد. “من فکر می کنم کادرها قطعاً مشتاق و هیجان زده بودند.”

سومانت رامان، یک مفسر سیاسی ساکن چنای، گفت: رهبران متوفی برای کمپین های سیاسی مد هستند “زیرا آنها همچنان از افراد زنده محبوب تر هستند.” «شما در حال حاضر رهبران توده‌ای با کالیبر خانم Jayalalitha ندارید» – ستاره‌های سیاسی دیگر – «یا آقای Karunanidhi در تامیل نادو در حال حاضر».

در ۳۰ سال گذشته، بیش از نیم دوجین حزب سیاسی توسط بازیگران این ایالت تأسیس شده است. رامان گفت که بسیاری از رهبران از دنیای سینما آمدند و در آنجا شخصیت‌های بزرگ‌تر از حد معمول را بازی کردند و مردم همیشه روی یک پایه قرار گرفتند.

“اما وقتی به نسل بعدی برویم، یعنی جایی که اکنون هستیم، این به نوعی تنظیم شده است. رهبران روزانه با نظارت بسیار بیشتری روبرو هستند، و بنابراین شما این هاله عظیم را در مورد آن ندارید.

“از محبوبیت یک مرده استفاده کنید”

تأثیر روی مخاطبان رهبران نمادین در حال احیا هنوز آشکار است. رامان در مورد سخنرانی ویدیویی هوش مصنوعی گفت: «فکر می‌کنم این یک تلاش بسیار معمولی بود – به دست اعضای حزبشان رسید، بنابراین آن‌ها آن را تکرار کردند. “هوش مصنوعی امروزی قادر به تصویربرداری حتی بهتر است.”

برای ویدیوی معرفی کتاب، واضح است که ویدیو مصنوعی است، زیرا همگام سازی لب کاملاً مطابقت ندارد. با این حال، صدای صدای کارونانیدی منعکس کننده واقعیت است.

Nayagam، خالق هوش مصنوعی Karunanidhi، گفت، یکی از دلایل بصری ناقص در دسترس نبودن مجموعه داده‌های ویدیویی با کیفیت بالا بود، که آنها را مجبور می‌کرد هر آنچه را که در اینترنت موجود است، تهیه کنند.

ویدئوی پخش شده در کنفرانس جوانان بهتر بود، اما در نزدیکی دهان ناسازگار بود. با این حال، پاسخ مخاطبان آنلاین به ویدیوها مطلوب بود، با برخی نظرات “فوق العاده” در یوتیوب. هر دو ویدیو به وضوح به عنوان تولید شده توسط هوش مصنوعی برچسب گذاری شدند.

هند اولین استفاده از دیپ فیک در مبارزات انتخاباتی را در سال ۲۰۲۰ شاهد بود، زمانی که مانوج تیواری، سیاستمدار BJP، ایجاد و توزیع ویدیوهای دیپ فیک از خود را که در کمپین تبلیغاتی به زبان هاریانوی و انگلیسی، زبان هایی که بلد نیست، تحریم کرد. کارشناسان این ویدئو را تقبیح کردند، اما به این دلیل که بدون افشای آن به اشتراک گذاشته شده است که توسط هوش مصنوعی دستکاری شده است.

سینها گفت: ممکن است کسی استدلال کند که ایجاد ویدیوهای هوش مصنوعی از سیاستمداران، گسترش استفاده از عکس ها یا تصاویر افراد مرده توسط احزاب سیاسی آنها است، مانند استفاده از تصاویر نهرو، ایندیرا گاندی یا راجیو گاندی پس از مرگ آنها. توسط کنگره ملی هند.

سینها گفت: “با این حال، ایجاد صدا یا ویدئوی مصنوعی چندین مرحله جلوتر می رود.” “در هر دو مورد، حزب در تلاش است تا از محبوبیت یک فرد مرده استفاده کند، اما در مورد دوم، نظرات و پیام‌ها فعالانه به آنها نسبت داده می‌شود.”

یک معمای دیگر در احیای یک سیاستمدار متوفی این است: چه کسی مالک حقوق صدا و شباهت فرد مرده است؟

دویکا گفت: «البته این موضوع در هند مبنای قانونی ندارد، زیرا ما هیچ حقوقی برای افراد متوفی در هند نداریم، اما از نقطه نظر اخلاقی، رضایت باید در نظر گرفته شود. مالیک، یک مشاور سیاست فناوری مستقر در دهلی، بر اعتماد و ایمنی آنلاین متمرکز است. قانون هند حمایت قانونی در برابر افترا به فرد مرده ارائه می دهد.

سیاستمداران هندی نیز فعالانه به دنبال راه حل های هوش مصنوعی برای کمپین های آتی هستند. Mogra از Jarvis Consulting گفت که کاندیداهای فردی سعی می‌کنند از کلون‌های صوتی هوش مصنوعی برای ارسال تماس‌های رباتیک خروجی یا IVRS (سیستم پاسخ صوتی تعاملی) با صدای ضبط‌شده و نام‌های شخصی‌شده در پیام‌های خود استفاده کنند. Mogra گفت: “فروشندگان متعددی در سراسر کشور برای انجام این کار مشغول هستند و این را با نرخ های بسیار اسمی می فروشند.”

در حال حاضر یک اقتصاد رسانه مصنوعی رو به رشد در مورد استفاده مجاز از دیپ فیک توسط بازیگران و مدیران عامل وجود داشته است، و آن بازار به قلمرو سیاسی گسترش یافته است. مشاورانی مانند Polymath Solutions که توسط Devendra Singh Jadoun اداره می‌شود، از شبیه‌سازی صوتی برای ارائه «پیام‌های شخصی‌شده» به کارگران حزبی از سوی سیاستمداران استفاده می‌کنند.

موگرا گفت: «این به طور گسترده در این انتخابات استفاده خواهد شد. با این حال، “این یک شمشیر دو لبه است. اطلاعات نادرست و نادرست زیادی ایجاد خواهد کرد. من فکر می کنم منافع کمتر است، و مسائل نادرست / اطلاعات نادرست و همه بیشتر خواهد بود.”

از نقطه نظر تأثیر اجتماعی، این که تا چه حد این ویدیوهای هوش مصنوعی – حتی آنهایی که ضعیف ساخته شده اند – می توانند نگرش رأی دهندگان را شکل دهند، هنوز مشخص نیست.

سینها گفت: «حتی زمانی که چنین ویدیوهایی کیفیت بالایی ندارند، «در مورد یک گوینده محبوب گذشته مانند M Karunanidhi، می‌تواند به چشم‌های بیشتری برای پیام‌رسانی منجر شود و به ویروسی شدن آن کمک کند.

آخرین تحقیق او نشان می‌دهد که چگونه “گسترش” بازیگران» یا مشاوران سیاسی، که علیرغم عدم وابستگی به حزب، با کمپین هایی برای انتشار پیام خود همکاری می کنند.

مالک افزود:

استفاده از درخواست‌های احساساتی از جانب افراد یا خانواده‌های خاص – به‌ویژه زمانی که شخصی‌سازی شده و در واتس‌اپ ارسال می‌شود – می‌تواند یک استراتژی ارتباطی مؤثر باشد و می‌تواند نظر رأی‌دهندگان را تحت تأثیر قرار دهد.

اما دیدگاه‌های مدافعان سیاست و دست اندرکاران به شدت در مورد اثربخشی رسانه‌های مصنوعی متفاوت است.

موگرا جارویس پیش‌بینی می‌کند که عامل جدید پیام‌های شخصی‌شده مبتنی بر هوش مصنوعی توسط سیاستمداران – خواه صوتی یا تصویری باشد – به زودی فرسوده خواهد شد. او گفت: “اگر مردم شروع به دیدن آن کنند، متوجه خواهند شد که این اتفاق در همه جا رخ می دهد، و آنها آن را در همه جا می بینند – درست مانند آنچه در واتس اپ اتفاق افتاده است.”

پیش از این، احزاب سیاسی تاکید بیشتری بر ایجاد گروه‌های واتس‌اپ برای اطلاع‌رسانی داشتند. اکنون، همه می‌دانند که هر فرد بخشی از صدها گروه است و هیچ‌کس توجه زیادی نمی‌کند یا همه چت‌ها را نمی‌خواند.

Mogra گفت: «من فکر می‌کنم با این راه‌حل‌های هوش مصنوعی و موارد استفاده مولد با مشکلات مشابهی با سرعت بسیار بیشتری مواجه خواهیم شد.