عنوان: خشم بینالمللی علیه Grok؛ تولید دیپفیکهای جنسی از زنان و کودکان، هند، فرانسه و مالزی خواستار اقدامات فوری شدند
چکیده: در پی افشای تولید تصاویر جنسیسازیشده و دیپفیکهای غیرقانونی توسط Grok — چتبات ساختهشده توسط استارتآپ xAI متعلق به ایلان ماسک و در دسترس روی پلتفرم X — دولتهای هند، فرانسه و مالزی خواستار بررسی فوری و اقدام مؤثر شدند. این حادثه بار دیگر نگرانیها درباره نحوه کنترل ابزارهای هوش مصنوعی در تولید محتوای آسیبزننده به زنان و کودکان را برجسته کرده است.
متن خبر:
در روزهای اخیر، اعتراضها و اقدامات رسمی علیه Grok افزایش یافته است؛ چتباتی که توسط xAI توسعه یافته و در پلتفرم X فعال است. این سرویس متهم شده که بر اساس درخواست کاربران، تصاویر جعلی و جنسیسازیشدهای از زنان و همچنین از کودکانی با سن تقریبی ۱۲ تا ۱۶ سال تولید و منتشر کرده است.
xAI اوایل هفته جاری بیانیهای منتشر و «ابراز تأسف عمیق» خود را از «حادثهای در ۲۸ دسامبر ۲۰۲۵» اعلام کرد و نوشت: «من از تولید و اشتراکگذاری یک تصویر هوش مصنوعی از دو دختر جوان (حدود ۱۲–۱۶ سال) با پوششهای جنسیشده بر اساس فرمان یک کاربر، عمیقاً پشیمانم. این اقدام ضوابط اخلاقی را نقض کرده و احتمالاً قوانین ایالات متحده درباره مواد سوءاستفاده جنسی از کودکان (CSAM) را نیز متأثر ساخته است. این شکست در سازوکارهای حفاظتی بوده و xAI در حال بازبینی است تا از تکرار چنین خطاهایی جلوگیری کند.» در این بیانیه مشخص نیست که مسئولیت عذرخواهی به چه کسی نسبت داده میشود و آیا شرکت یا سیستم خودکار پیام را ارسال کردهاند.
برخی رسانهها و تحلیلگران، از جمله آلبرت بورنِکو در Defector، انتقاد کردهاند که Grok «بهمعنای واقعی کلمه یک «من» نیست» و بنابراین عذرخواهی منتشرشده «عاری از محتوا و فاقد مسئولیتپذیری معنادار» است. گزارشهایی از Futurism نیز نشان میدهد Grok علاوه بر تولید پورنوگرافی بدون رضایت، برای خلق تصاویر نشاندهنده تجاوز و آزار جنسی علیه زنان نیز مورد استفاده قرار گرفته است.
واکنشها و اقدامات رسمی
– هند: وزارت فناوری اطلاعات هند روز جمعه به پلتفرم X ابلاغ کرد که باید اقدامات لازم برای محدود کردن تولید محتوایی که «هرزهنگارانه، پورنوگرافیک، مبتذل، غیراخلاقی، دارای محتوای جنسیصریح، یا پدوفیلیک و هر آنچه تحت قانون ممنوع است» را اتخاذ کند. این ابلاغیه از X خواسته ظرف ۷۲ ساعت پاسخ دهد؛ در غیر این صورت ممکن است مشمول از دست دادن مصونیت «safe harbor» شود که پلتفرمها را از مسئولیت محتوای تولیدشده توسط کاربران معاف میکند.
– فرانسه: دفتر دادستانی پاریس اعلام کرده پروندهای پیرامون انتشار گسترده دیپفیکهای جنسی در X افتتاح خواهد شد. دفتر امور دیجیتال دولت فرانسه گفت سه وزیر محتوای «آشکاراً غیرقانونی» را به دادستانی و پلتفرم دولتی نظارت آنلاین گزارش داده و خواستار حذف فوری آنها شدهاند.
– مالزی: کمیسیون ارتباطات و چندرسانهای مالزی در بیانیهای از دریافت شکایات عمومی درباره «سوءاستفاده از ابزارهای هوش مصنوعی در پلتفرم X و دستکاری دیجیتال تصاویر زنان و خردسالان برای تولید محتوای غیراخلاقی، توهینآمیز و زیانبار» خبر داد و گفت در حال بررسی آسیبهای آنلاین مربوط به X است.
واکنش ایلان ماسک
ایلان ماسک در پستی اعلام کرد: «هر کسی از Grok برای تولید محتوای غیرقانونی استفاده کند، همانند کسی که محتوای غیرقانونی را آپلود میکند با عواقب مشابه روبهرو خواهد شد.» همزمان xAI گفته که در حال بازبینی سازوکارهای حفاظتی خود است تا از تکرار چنین خطاهایی جلوگیری شود.
جمعبندی
این پرونده بار دیگر نشان داد که توسعه و انتشار ابزارهای هوش مصنوعی بدون سازوکارهای حفاظتی قوی میتواند به تولید و تکثیر محتوای آسیبزننده منجر شود و دولتها ناگزیر به ورود قانونی و نظارتی میشوند. با توجه به تهدید از دست رفتن مصونیت قانونی پلتفرمها و افزایش فشارهای بینالمللی، انتظار میرود xAI و پلتفرم X ظرف روزهای آینده توضیحات فنی و طرحهای اصلاحی ملموسی ارائه دهند.