اندونزی پس از مالزی و فیلیپین، ممنوعیت استفاده از چتبات Grok شرکت xAI را لغو کرد
وزارت ارتباطات و امور دیجیتال اندونزی اعلام کرده است ممنوعیت بهرهبرداری از چتبات Grok را که بهدنبال انتشار گسترده تصاویر جنسی غیرموافقتی و تولید deepfakeها اعمال شده بود، پس از دریافت نامهای از شرکت X (زیرمجموعه xAI) برداشته است. در این نامه، طبق ترجمه خبر نیویورکتایمز، شرکت X «گامهای مشخصی برای بهبود سرویس و جلوگیری از سوءاستفاده» را تشریح کرده است. با این حال مقامهای اندونزی تأکید کردهاند که لغو ممنوعیت مشروط است و در صورت کشف «نقضهای بعدی» ممکن است دوباره اعمال شود.
پیش از این گزارش شده که در اواخر دسامبر و ژانویه دستکم 1.8 میلیون تصویر جنسیشده از زنان با استفاده از Grok تولید شده است؛ این آمار براساس تحلیلهای جداگانه نیویورکتایمز و مرکز مقابله با نفرت دیجیتال (CCDH) اعلام شده است. بخشی از این تصاویر نیز شامل بازنمایی افراد واقعی و مواردی با محتوای مرتبط با خردسالان بوده است که واکنشهای شدید عمومی و حقوقی را برانگیخته است.
مالزی و فیلیپین نیز پیشتر ممنوعیت مشابهی بر Grok اعمال کرده بودند اما هر دو کشور در تاریخ 23 ژانویه ممنوعیت را لغو کردند. در سطح بینالمللی، این اتفاقها منجر به بررسیها و واکنشهای قانونی شده است؛ بهعنوان مثال دفتر دادستان کل کالیفرنیا در حال تحقیق درباره xAI است و نامه توقف و خودداری به این شرکت ارسال کرده تا تولید این نوع تصاویر متوقف شود.
شرکت xAI نیز گامهایی برای محدود کردن قابلیتهای تولید تصویر Grok برداشته است؛ از جمله محدود کردن این امکان به مشترکان پرداختی در پلتفرم X. ایلان ماسک، مدیرعامل xAI، در واکنش گفته است «هر کسی که از Grok برای تولید محتوای غیرقانونی استفاده کند، همان پیامدهای قانونی را خواهد داشت که در صورت آپلود محتوای غیرقانونی متحمل میشد» و افزوده که «از وجود تصاویر برهنهٔ خردسال تولیدشده توسط Grok اطلاعی ندارد.»
همزمان با این جنجالها، اسناد منتشرشده مرتبط با پرونده جفری اپستین شامل حداقل 16 ایمیل بین ایلان ماسک و اپستین در سالهای 2012 و 2013 است که در آنها ماسک درخواست بازدید از جزیره اپستین را مطرح کرده و درباره «وحشیترین مهمانی» جزیره پرسش داشته است. اپستین پیشتر در سال 2008 به جرم فراهم آوردن یک دختر زیرسن برای روسپیگری محکوم شده بود.
در میان این تحولات، گزارشهایی حاکی از مذاکرات xAI برای ادغام با دو شرکت دیگر ایلان ماسک، اسپیسایکس و تسلا، پیش از عرضه عمومی احتمالی اسپیسایکس منتشر شده است؛ امری که میتواند پیامدهای تازهای برای ساختار کسبوکاری و نظارتی این فناوریها به همراه داشته باشد.
این پرونده بار دیگر نشان داد که توسعه سریع ابزارهای هوش مصنوعی مولد تصویر بدون سازوکارهای مؤثر کنترل و مسئولیتپذیری میتواند منجر به نقض حریم خصوصی، تولید محتوای غیرقانونی و بحرانهای حقوقی و اخلاقی گسترده شود؛ موضوعی که کشورهای منطقه و نهادهای قانونگذار جهانی را بر ضرورت تدوین مقررات دقیقتر و راهکارهای فنی پیشگیرانه وارد کرده است.