یک پست وایرال در رِدیت که خود را «افشاگر» یک اپلیکیشن تحویل غذا معرفی میکرد، پس از بررسیهای خبرنگاران و محققان مشخص شد ساختگی است — نمونهای جدید از چالشهای تولید و انتشار اخبار جعلی با کمک هوش مصنوعی.
خلاصه ماجرا
یک کاربر رِدیت با ادعای آنکه از کارکنان سابق یک سرویس تحویل غذا است، پُستی طولانی منتشر کرد و مدعی شد شرکت مذکور با بهرهگیری از خلأهای قانونی، حقالزحمه و انعام رانندگان را بهسرقت میگیرد و الگوریتمها علیه کارکنان طراحی شدهاند. پست بهسرعت وایرال شد، در رِدیت هزاران رأی مثبت گرفت و در شبکههای دیگر نیز میلیونها بازخورد برجای گذاشت. علاوه بر تصویر کارت کارمندی و یک «سند داخلی» ۱۸ صفحهای که ادعا میشد نشان میدهد شرکت از هوش مصنوعی برای محاسبه «امتیاز ناامیدی» رانندگان استفاده میکند، شواهد ظاهراً محکمی ارائه شد که به باورپذیری روایت کمک کرد.
اما بررسیها چه گفت؟
خبرنگار کیسِی نیوتون از پلتفرمر (Platformer) پس از تماس با پستکننده و بررسی مدارک، دریافت که مدارک و تصاویر جعلی بودهاند. نکته کلیدی این بود که ابزارهای هوش مصنوعی قادر به تولید اسناد چندصفحهای با ظاهر فنی و تصاویر واقعینما هستند و این قابلیت کار تایید اصالت را سختتر میکند. هرچند شرکتهایی مانند DoorDash در گذشته بهخاطر نحوه برخورد با انعامها تحت پیگرد قرار گرفته و به توافق 16.75 میلیون دلاری رسیدهاند، اما در این مورد خاص، روایت افشاگر ساختگی بود.
نقش فناوری و ابزارهای تشخیص
یک نقطه روشن در این پرونده، نقش ابزارهای تشخیص بود. نیوتون توانست با کمک هوش مصنوعی گوگل (Gemini) و نشانگذاری دیجیتال SynthID که روی تصویر وجود داشت، تشخیص دهد تصویر تولیدشده توسط ابزارهای مولد تصویر است. همچنین مکس اسپِرو، بنیانگذار Pangram Labs، تاکید کرده که افزایش تولید متن و تصویر مصنوعی و قابلیت شرکتها برای «راهاندازی تعاملات ارگانیک» جعلی، باعث متورم شدن موج اخبار ساختگی شده است.
پیامدها و هشدارها
این اتفاق بار دیگر نشان داد:
– تولید محتوای جعلی با کیفیت بالا از همیشه آسانتر شده است.
– خبرهای وایرال ممکن است پیش از تایید کامل به میلیونها کاربر برسند و اثرگذاری زیادی داشته باشند.
– خبرنگاران، کاربران و پلتفرمها باید استانداردهای بررسی حقیقت (fact-checking) را تقویت کنند.
چند راهکار برای کاربران و خبرنگاران
– از ابزارهای تشخیص تصویر و متن استفاده کنید و بهدنبال نشانها و متادیتا باشید.
– منابع اولیه را مستقیماً بررسی کنید و از اتکا به یک سند واحد خودداری کنید.
– به حسابهای رسمی شرکتها و بیانیههای رسانهای مراجعه کنید.
– در مواجهه با ادعاهای سنگین، تا تأیید رسمی و چندمنبعی عجله نکنید.
جمعبندی
ماجرای «افشاگرِ جعلیِ تحویل غذا» نمونهای هشداردهنده از توانایی ابزارهای هوش مصنوعی در خلق روایتهای متقاعدکننده و گسترده شدن اطلاعات نادرست است. در عصر تولید محتوا با کمک هوش مصنوعی، دقت، شکِ حرفهای و ابزارهای تشخیص معتبر بیش از همیشه ضروری شدهاند.