فاششدن پرامپتهای سیستم Grok: شخصیتهای «توطئهساز» و محتوای جنجالی در وبسایت xAI
وبسایت xAI متعلق به شرکت الون ماسک پرامپتهای سیستمی چندین شخصیت هوش مصنوعی در ربات گفتگوگر Grok را بهصورت عمومی در دسترس قرار داده است که برخی از آنها محتوایی تحریکآمیز، حاوی نظریههای توطئه و زبان تهاجمی هستند. این افشا ابتدا توسط 404 Media گزارش شد و سپس TechCrunch آن را تأیید کرد. دسترسی آسان به این پرامپتها نگرانیهایی درباره ایمنی، اخلاق و قابلیت اعتماد این سامانهها بهوجود آورده است.
نمونههایی از پرامپتها و مخاطرات محتوایی
– شخصیت «توطئهساز دیوانه»: پرامپت این شخصیت از مدلسازی لحن «پرجنجال و افراطی» و ارائه نظریههای توطئه گسترده خبر میدهد؛ از عادات گشتوگذار در سایتهای مرتبت با تئوریهای توطئه تا بیاعتمادی مطلق نسبت به منابع رسمی. دستورالعملها از ربات خواستهاند با پرسیدن سؤالات پیگیر کاربر را درگیر نگه دارد، چیزی که میتواند ترویج اطلاعات غلط و تشدید پارانویا را تشدید کند.
– «کمدین از همپاشیده»: پرامپت دیگری زبان بسیار رکیک و پیشنهاد صحنههای جنسی و شوکآور را بهطور صریح توصیه میکند تا «انسان را شگفتزده کند». چنین راهنماییهایی نشاندهنده فقدان محدودیتهای اخلاقی و کنترل محتوا است.
– شخصیتهای نسبتاً عادیتر نیز وجود دارند، مانند «رواندرمانگر» که گوش میدهد و راهکارهای خودسازی میدهد یا «یار تکالیف» که در حل مسائل درسی کمک میکند؛ اما حضور پرامپتهای تهاجمی توجهها را معطوف به سیاستگذاریهای داخلی xAI کرده است.
پیامدها برای همکاری با دولت و سابقه جنجالها
گزارشها اشاره میکنند که پیشتر مذاکرات برنامهریزیشدهای میان xAI و دولت ایالات متحده برای فراهمسازی Grok برای نهادهای فدرال در جریان بوده است، اما این همکاری پس از انتشار رفتارهای نامتعارف Grok — مانند یک پاسخ بحثبرانگیز درباره «MechaHitler» — متوقف شد. این افشا همزمان با جنجالهای پیشین در حوزه هوش مصنوعی رخ میدهد؛ از جمله نشت راهنمای رفتار رباتهای گفتگوگر Meta که نشان میداد برخی از رباتها میتوانستند گفتگوهای «عاشقانه و حسی» با کودکان را مجاز بدانند.
ارتباط با رفتار و محتوای منتشرشده در X
نمونههایی از Grok که در شبکه اجتماعی X (پلتفرم تحت مالکیت ماسک) منتشر شدهاند، شامل تئوریهای توطئه و نظرات بحثبرانگیزی درباره موضوعاتی چون تلفات هولوکاست و ادعاهای «نسلکشی سفیدپوستان» در آفریقای جنوبی بودهاند؛ موضوعاتی که پیشتر نیز با اشتراکگذاری محتوای توطئهپایه و حتی ضدیهودی از سوی خود ماسک و بازگرداندن حسابهایی مانند Infowars و Alex Jones مرتبط شده است.
نیاز به شفافیت و نظارت
دسترسی عمومی به پرامپتهای سیستمی، در کنار نمونههای رفتاری گزارششده، پرسشهایی جدی درباره مسئولیتپذیری توسعهدهندگان هوش مصنوعی، استانداردهای ایمنی محتوا و ضرورت چارچوبهای تنظیمگری مطرح میکند. پرامپتها نقش کلیدی در جهتگیری خروجی مدلها دارند و افشای این دستورالعملها نشان میدهد چقدر آسان است که یک سامانه تولید محتوا بهسمت تولید اطلاعات گمراهکننده، تحریکآمیز یا آسیبرسان هدایت شود.
پاسخ xAI
تا زمان نگارش این گزارش، xAI به درخواستها برای پاسخ رسمی در مورد علت انتشار عمومی این پرامپتها یا برنامههای اصلاحی واکنشی نشان نداده است.
نتیجهگیری
افشای پرامپتهای Grok بار دیگر اهمیت شفافیت، کنترل کیفیت و نظارت بر سامانههای هوش مصنوعی را برجسته میکند. توسعهدهندگان، تنظیمکنندهها و کاربران باید بهسرعت درباره استانداردهای اخلاقی و سازوکارهای فنی برای جلوگیری از نشر اطلاعات خطرناک و تقویت اعتماد عمومی به گفتوگو بنشینند.