جسی ون روتسلاار، نوجوان ۱۸ سالهای که متهم است در تیراندازی دستهجمعی در شهر تومبلر ریج کانادا هشت نفر را کشته، پیش از این در گفتگوهای خود با نسخهای از چتباتهای مبتنی بر هوش مصنوعی شرکت OpenAI (از جمله ChatGPT) مشاهداتی را ثبت کرده بود که کارکنان شرکت را نگران کرد. به گزارش وال استریت ژورنال، این گفتگوها که محتوای مرتبط با خشونت با سلاح گرم را توصیف میکردند، توسط ابزارهای نظارتی OpenAI بهعنوان موارد بالقوه سوءاستفاده شناسایی و در ژوئن ۲۰۲۵ مسدود شدند.
برپایه گزارشها، بین کارکنان OpenAI بر سر تماس با مقامات انتظامی کانادا بحثهایی مطرح شد، اما در نهایت تصمیم بر این شد که موضوع به پلیس اطلاع داده نشود؛ سخنگوی OpenAI بعدها اعلام کرد فعالیتهای جسی ون روتسلاار شرایط لازم برای گزارش رسمی به مراجع قضایی را نداشته است. به گفته همان سخنگو، OpenAI پس از وقوع حادثه با مقامات کانادایی تماس گرفته است.
شواهد دیجیتال نشان میدهد متنهای چت تنها جنبه نگرانکننده پرونده نبودهاند: متهم ظاهراً در پلتفرم بازیسازی روبلاکس (Roblox) یک بازی شبیهسازیکننده تیراندازی دستهجمعی در یک مرکز خرید ساخته و همچنین پستهایی درباره اسلحه در ردیت منتشر کرده بود. بهعلاوه، پلیس محلی از پیش با مشکل ناپایداری رفتاری او آشنا بوده و قبلاً برای بررسی حادثهای که در آن آتشسوزی راهاندازی شده بود و به احتمال تحت تأثیر مواد مخدر رخ داده، به منزل خانواده وی فراخوانده شده بود.
این حادثه بار دیگر بحثهای گستردهای را درباره مسئولیتهای اخلاقی و حقوقی شرکتهای سازنده مدلهای زبانی بزرگ (LLM) و پلتفرمهای اینترنتی برانگیخته است. طی سالهای اخیر، نمونههایی از گفتگوهای چتباتها منتشر شده که ادعا میشود کاربران را به خودآسیبرسانی یا اقدامهای خطرناک تشویق کرده یا در بروز بحرانهای روانی نقش داشتهاند؛ همین موضوع منجر به طرح چندین پرونده حقوقی علیه سازندگان این فناوریها شده است.
از منظر سیاستگذاری و ایمنی پلتفرمها، این پرونده نکاتی قابل توجه دارد: ضرورت بهبود ابزارهای تشخیص رفتارهای خطرناک، تعیین واضحتر معیارهای گزارش به مراجع قانونی و افزایش هماهنگی میان شرکتهای فناوری و نهادهای انتظامی و بهداشتی برای پیشگیری از حوادث فاجعهبار. همچنین تأکید میشود که نظارت ویژه بر محیطهای مجازی مورد استفاده کودکان و نوجوانان، مانند روبلاکس، باید تشدید شود.
اگر در شرایط بحران هستید یا افکار خودآسیبرسان دارید، در ایالات متحده و کانادا میتوانید با شماره 988 تماس یا پیامک بزنید تا به سامانه ملی حمایت از خودکشی و بحران متصل شوید. در صورت خطر فوری، حتماً با شمارههای اضطراری محلی تماس بگیرید.