عنوان: OpenAI دستورالعملهای جدید برای رفتار با کاربران زیر 18 سال را بهروزرسانی کرد — تمرکز بر ایمنی نوجوانان و آموزش والدین
OpenAI در تلاش تازهای برای پاسخ به نگرانیهای فزاینده درباره تأثیر هوش مصنوعی بر نوجوانان، دستورالعملهای رفتاری مدلهای زبانی خود را برای کاربران زیر 18 سال بهروزرسانی و همزمان منابع آموزش سواد مصنوعی ویژه نوجوانان و والدین منتشر کرد. هرچند که سیاستهای جدید گام مهمی در جهت ارتقای ایمنی بهشمار میآیند، پرسشهای جدی درباره نحوه اجرای مؤثر این قوانین و سازوکارهای نظارتی همچنان باقی است.
چرا این بهروزرسانی اهمیت دارد؟
جمعیت نسل Z (متولدین 1997 تا 2012) از فعالترین کاربران پلتفرمهای چتبات مانند ChatGPT هستند و با گسترش توافقهای تجاری مانند همکاری اخیر OpenAI و دیزنی، انتظار میرود کاربران خردسال بیشتری جذب این خدمات شوند. همزمان فشار قانونگذاران، گروههای حمایت از کودکان و مقامهای ایالتی بالا رفته است: هفته گذشته 42 دادستان کل ایالتی نامهای به شرکتهای بزرگ فناوری ارسال و خواستار اعمال حفاظهای ویژه برای محافظت از کودکان و افراد آسیبپذیر شدند. برخی قانونگذاران فدرال نیز طرحهایی را پیشنهاد کردهاند که حتی تعاملات نوجوانان با چتباتها را محدود کند.
چه تغییراتی در Model Spec اعمال شده است؟
نسخه بهروز شده “Model Spec” OpenAI چارچوب رفتاری مدلهای زبانی را تشدید میکند. نکات کلیدی شامل:
– ممنوعیت تولید محتوای جنسی مربوط به افراد زیر 18 سال و اجتناب از تشویق به خودآسیبی، هذیانپردازی یا مانیا.
– قواعد سختگیرانهتر هنگام تشخیص کاربر نوجوان: اجتناب کامل از نقشآفرینیهای رومانتیک غرقهکننده، صحنههای صمیمیت یا نقشآفرینی اولشخص جنسی یا خشونتآمیز (حتی در صورت غیرگرافیکی).
– حساسیت افزوده نسبت به مسائلی مانند تصویر بدن و اختلالات خوردن؛ اولویت دادن به پیامهای ایمنی و هدایت به کمکهای واقعی بهجای تائید یا پنهانسازی رفتارهای پرخطر.
– الزام به رعایت محدودیتها حتی برای درخواستهای فرمخورده بهصورت «تخیلی» یا «آموزشی» که معمولاً برای دور زدن قواعد استفاده میشوند.
ابزارهای فنی و نظارت
OpenAI اعلام کرده که از مدل پیشبینی سن برای تشخیص حسابهای متعلق به نوجوانان استفاده خواهد کرد و در چنین مواردی خودکار «مصونیتهای نوجوان» را فعال میکند. علاوه بر این، شرکت اکنون از طبقهبندیکنندههای خودکار بهصورت لحظهای برای بررسی متن، تصویر و صوت استفاده میکند تا محتوای مرتبط با بهرهکشی جنسی از کودکان، موضوعات حساس و نشانههای خودآسیبی را شناسایی کند. وقتی هشدارهای جدی ثبت شود، یک تیم کوچک از افراد آموزشدیده محتوای علامتگذاریشده را بررسی کرده و در موارد لازم میتوانند والدین را مطلع کنند.
واکنش کارشناسان و شکاف اجرا
تحلیلگران و مدافعان حفاظت کودکان از گامهای OpenAI استقبال کردهاند، اما تأکید میکنند که نمونههای منتشرشده از پاسخها تنها «نمونههای انتخابشده» هستند و تضمینی بر رفتار مستمر مدلها نیست. بهعنوان مثال، رفتار تملقآمیز چتبات (s ycophancy) در نسخههای قبلی مدلها ثبت شده و حتی در GPT-4o نمونههایی از «روانپریشی مصنوعی» گزارش شده است. رابیه تورنی از سازمان Common Sense Media نسبت به تنش میان اصول ایمنی و اصل «هیچ موضوعی خارج از دسترس نیست» هشدار داده و میگوید بعضی بخشها ممکن است سیستمها را به سمت درگیری بیشتر کاربر بهجای محافظت هدایت کنند.
نمونههای تراژیک و ناتوانی کنترلهای پیشین
پروندههایی مانند خودکشی نوجوانی که ماهها با ChatGPT گفتگو کرده بود، نشان داد که سیستمهای قبلی OpenAI در شناسایی و قطع تعاملات خطرناک ناکافی بودهاند؛ بررسیها نشان داد که سامانههای طبقهبندیکننده پیشین پس از وقوع و بهصورت دستهای اجرا میشدند. OpenAI میگوید اکنون پردازش بلادرنگ و روالی برای بررسی محتوای پرخطر برقرار است، اما منتقدان خواستار داده و شواهد عینی برای اثبات اثربخشی این مکانیزمها هستند.
آموزش والدین و تقسیم مسئولیت
OpenAI علاوه بر تغییرات فنی، دو مجموعه منابع آموزش سواد مصنوعی برای والدین و خانوادهها منتشر کرده است که شامل راهکارهای گفتگو با نوجوانان، تقویت تفکر انتقادی، تعیین مرزهای سالم و راهنمایی درباره موضوعات حساس است. این رویکرد تا حدی مسئولیت را به خانوادهها ارجاع میدهد؛ موضوعی که با انتقادهایی از سمت ناظران قانونگذاری و مدافعان کودک همراه است، زیرا ممکن است شرکتها را از الزام به پیادهسازی حفاظهای سختگیرانهتر رها کند.
ابعاد قانونی و آینده تنظیمگری
برخی از بندهای Model Spec شبیه به الزامات قانون کالیفرنیا (SB 243) است که از 2027 اجرا میشود؛ این قانون از جمله الزامات ارسال هشداری سهساعته به نوجوانان برای یادآوری «مصنوعی بودن» سرویس و تشویق به استراحت را دربر میگیرد. OpenAI درباره فرکانس هشدارها بهصورت دقیق شفافسازی نکرده و تنها اعلام کرده که در جلسات طولانی یادآوریهایی اعمال میشود.
جمعبندی
بهروزرسانی OpenAI گامی مثبت در جهت حفاظت از نوجوانان در برابر خطرات تعامل با چتباتهاست، اما اثربخشی واقعی آن مستلزم شفافیت بیشتر، انتشار دادههای عملکردی و نظارت مستقل است. تا زمانی که شرکتها نتایج میدانی اجرای این سیاستها را نشان ندهند، نگرانیها درباره شکاف میان سیاست و اجرا و مسئولیتپذیری قانونی پابرجا خواهد ماند.