گروک؛ چتبات xAI ایلان ماسک در انتشار اطلاعات نادرست درباره تیراندازی ساحل بندی مقصر شناخته شد
گروک (Grok)، چتبات توسعهدادهشده توسط xAI و محبوبشده در پلتفرم اجتماعی ایکس (X)، بارها اطلاعات نادرست درباره تیراندازی جمعه گذشته در ساحل بندی استرالیا منتشر کرده است. گزارش گیزمودو نشان میدهد که این چتبات در چندین پست، فردی را که یکی از مهاجمان را خلع سلاح کرد — احمد احمد 43 ساله — به اشتباه شناسایی کرده و حتی صحت ویدئوها و عکسهای ثبتشده از این حادثه را زیر سؤال برده است.
نمونههایی از اشتباهات گروک
– در یکی از پستها، مرد حاضر در یک عکس بهاشتباه بهعنوان «اسیر اسرائیلی» معرفی شد.
– در پستی دیگر، اطلاعات نامرتبطی درباره رفتار ارتش اسرائیل با فلسطینیها مطرح شد که ارتباطی با حادثه بندی نداشت.
– یک ادعای دیگر گروک این بود که «ادوار کربتری»، یک مهندس فناوری اطلاعات 43 ساله و معمار ارشد راهحلها، کسی بوده که مهاجم را خلع سلاح کرده است — ادعایی که با واقعیت تطابق نداشت.
تصحیحات و شواهد اصلاح اشتباهات
برخی از اشتباهات از سوی گروک اصلاح شدهاند؛ برای مثال پستی که ویدئویی را به طوفان سیکلون آلفرد نسبت داده بود پس از بازبینی اصلاح شد. همچنین گروک بعداً هویت احمد احمد را پذیرفت و نوشت که «سوءتفاهم ناشی از پستهای ویروسی است که او را بهاشتباه بهعنوان ادوارد کربتری معرفی کردهاند، احتمالاً بهدلیل خطای گزارشدهی یا شوخی ارجاعدهنده به یک شخصیت خیالی.» گیزمودو همچنین اشاره کرده که برخی از مقالات منتشرشده درباره این حادثه روی سایتهایی با عملکرد نامناسب قرار داشته که ممکن است محتوای تولیدشده توسط هوش مصنوعی را منتشر کرده باشند.
پیامدها و ضرورت بازبینی اطلاعات توسط انسان
این رخداد بار دیگر هشدار میدهد که حتی سیستمهای هوشمصنوعی پیشرفته میتوانند در لحظات حساس دچار اشتباهات قابلتوجه شوند. پیامدهای انتشار اطلاعات نادرست در بحرانهای خبری میتواند به گمراهی عمومی، آسیبدیدگی اعتبار نهادها و حتی ترویج شایعات منجر شود. بنابراین:
– همیشه اطلاعات حساس را از منابع معتبر چندگانه تأیید کنید.
– پلتفرمها و سازندگان مدلهای زبانی باید مکانیزمهای ارزیابی و شفافیت در منابع اطلاعاتی را تقویت کنند.
– کاربران باید نسبت به ادعاهای تکمنبعی که از شبکههای اجتماعی یا چتباتها منتشر میشود، احتیاط کنند.
نتیجهگیری
اگرچه گروک برخی اشتباهات خود را اصلاح کرده، این رویداد نشان میدهد که نظارت انسانی، شفافیت در منابع و ابزارهای کنترلی برای جلوگیری از انتشار اطلاعات نادرست همچنان ضروری است. برای دنبال کردن اخبار معتبر درباره اتفاقات ساحل بندی و اصلاحات احتمالی از سوی xAI و پلتفرم ایکس، پیگیری منابع موثق خبری و بیانیههای رسمی توصیه میشود.