عکس جعلی انفجار پنتاگون در فضای مجازی منتشر شد: چگونه یک تصویر هوش مصنوعی را تشخیص دهیم

تصویری جعلی که به نظر می‌رسد انفجاری بزرگ در نزدیکی پنتاگون را نشان می‌دهد، روز دوشنبه در رسانه‌های اجتماعی به اشتراک گذاشته شد که باعث افت کوتاهی شد. در بازار سهام.

در عرض چند دقیقه، موجی از حساب‌های رسانه‌های اجتماعی از جمله برخی حساب‌های تایید شده، تصویر جعلی را به اشتراک گذاشتند و این سردرگمی را بیشتر کرد.

مقامات بعداً تأیید کردند که چنین حادثه ای رخ نداده است.

کارشناسان رسانه های اجتماعی، از جمله نیک واترز از Bellingcat، یک گروه تأیید اخبار آنلاین، به سرعت به این موضوع اشاره کردند. برخی از مشکلات قابل توجه تصویر، از جمله:

• اینکه هیچ شاهد دست اول دیگری برای تأیید این رویداد وجود نداشت، به خصوص در منطقه شلوغی مانند پنتاگون. واترز در توییتی نوشت: «به همین دلیل است که ایجاد یک جعلی باورپذیر از چنین رویدادی بسیار دشوار است (به نظر من عملا غیرممکن است).
• که خود ساختمان به طور محسوسی با پنتاگون متفاوت به نظر می رسد. با استفاده از ابزارهایی مانند نمای خیابان Google برای مقایسه این دو تصویر.
• جزئیات دیگر از جمله تیر چراغ شناور با ظاهری عجیب و تیرک سیاه که از پیاده رو بیرون زده بود، هدیه دیگری بود که تصویر آنطور که به نظر می رسید نبود. هوش مصنوعی هنوز برای بازآفرینی مکان‌ها بدون معرفی مصنوعات تصادفی مشکل دارد.

مطمئن باشید که این تصویر که ادعا می‌کند یک “انفجار در نزدیکی پنج ضلعی” را نشان می‌دهد، با هوش مصنوعی تولید شده است.

نمای ساختمان و نحوه ادغام حصار با موانع جمعیت را بررسی کنید. همچنین هیچ تصویر، ویدیو یا افرادی که به عنوان شاهد دست اول پست می کنند وجود ندارد. pic.twitter.com/t1YKQabuNL

— نیک واترز (@N_Waters89) 22 مه ۲۰۲۳

بلوک نقل قول>

نحوه تشخیص تصاویر جعلی و تولید شده توسط هوش مصنوعی

ابزارهای مولد هوش مصنوعی زیادی مانند Midjourney، Dall-e 2 و Stable Diffusion وجود دارند که می‌توانند تصاویری شبیه به زندگی را با تلاش بسیار کم ایجاد کنند.

این ابزارها با مشاهده حجم زیادی از تصاویر واقعی آموزش داده می‌شوند، اما زمانی که داده‌های آموزشی از دست رفته است، شکاف‌ها را با تفسیر خود پر می‌کنند. این می تواند باعث شود که افراد دارای اندام ها و اشیاء اضافی باشند که با محیط اطرافشان تغییر شکل داده است.

هنگام مشاهده تصاویر آنلاین که ظاهراً یک رویداد خبری فوری را نشان می دهند، ارزش دارد موارد زیر را در نظر داشته باشید:

• خبرها در خلاء اتفاق نمی‌افتند – در صورت وقوع یک انفجار بزرگ یا رویداد بزرگ، انتظار داشته باشید که هجوم گزارش‌های روی زمین را از افراد مختلف و زوایای مختلف مشاهده کنید.< /li>
• چه کسی محتوا را آپلود می کند – به تاریخچه پست حساب کاربری نگاه کنید. آیا مکان آنها و مکان رویداد با هم یکسان است؟ ببینید آنها چه کسانی را دنبال می کنند و چه کسانی آنها را دنبال می کنند. آیا می توانید با آنها تماس بگیرید یا با آنها صحبت کنید؟
• از ابزارهای اطلاعاتی منبع باز استفاده کنید – ابزارهای جستجوی عکس معکوس مانند Google Images و TinEye می‌توانند به شما اجازه آپلود تصویر و تعیین مکان و زمان استفاده از آن را برای اولین بار بدهند. چندین ابزار دیگر وجود دارد که می‌توانید از آنها استفاده کنید، مانند تماشای زنده عمومی تصویربرداری دوربین ترافیک برای تأیید اینکه رویدادی در حال وقوع است.
• تصویر و محیط اطراف آن را تجزیه و تحلیل کنید – به دنبال سرنخ‌هایی در تصویر مانند مکان‌های دیدنی اطراف، علائم جاده‌ای و حتی شرایط آب و هوایی بگردید تا به شما کمک کنند مکان یا زمانی که رویداد ادعا شده ممکن است رخ داده باشد.< /li>
• دست‌ها، چشم‌ها و وضعیت بدنی – هنگام برخورد با تصاویر افراد، به چشم‌ها، دست‌ها و وضعیت عمومی بدن آنها توجه ویژه ای داشته باشید. ویدیوهای تولید شده توسط هوش مصنوعی که افراد را تقلید می کنند، معروف به دروغ های عمیق، معمولاً با مشکل پلک زدن مواجه می شوند، زیرا بیشتر مجموعه داده های آموزشی حاوی چهره هایی با چشمان بسته نیستند. دست هایی که به درستی اشیا را نمی گیرند یا اندام هایی که به طور غیر طبیعی پیچ خورده به نظر می رسند نیز می توانند به تشخیص جعلی کمک کنند.

برای اطلاعات بیشتر در مورد راستی‌آزمایی اخبار و تحقیقات اطلاعاتی منبع باز، مؤسسه رسانه‌ای الجزیره تعدادی کتاب راهنما را منتشر کرده است که در چند زبان برای دانلود در زیر موجود است.

• یافتن حقیقت در میان جعلی ها [PDF]
• تأیید اخبار – راهنمای عملی [PDF
• تحقیقات منبع باز [PDF]

#موضوع🧵
۱/ برجسته کردن خطرات دیپ فیک: چه اتفاقی افتاد که دیروز یک حساب توییتر جعلی با چک آبی که ظاهراً بلومبرگ است، «اخبار فوری» تکان دهنده را منتشر کرد…

— بررسی روزنامه نگاری الجزیره (@AJR_English) 23 مه ۲۰۲۳