OpenAI اعلام کرد محدودیتهای ایمنی ChatGPT کاهش مییابد؛ محتوای اروتیک برای «بزرگسالان تاییدشده» مجاز خواهد شد
سام آلتمن، مدیرعامل OpenAI، در پستی در شبکه X خبر داد که شرکت بهزودی برخی محدودیتهای ایمنی ChatGPT را شل میکند تا پاسخهای این چتبات «دوستانهتر» و «بشریتر» شود و به «بزرگسالان تاییدشده» اجازه داده شود در مکالمات اروتیک با مدل شرکت کنند. آلتمن توضیح داد که سیاستهای سختگیرانه پیشین برای محافظت از سلامت روان تدوین شده بودند، اما این قوانین به کارایی و جذابیت سرویس برای بسیاری از کاربران سالم آسیب زدهاند و OpenAI قصد دارد با راهکارهایی این تعادل را بازتنظیم کند.
چرایی و سابقه تصمیم
OpenAI طی ماههای گذشته تحت فشار قرار داشت تا به مشکلاتی که برخی کاربران آسیبپذیر با ChatGPT تجربه کردهاند پاسخ دهد. گزارشهایی درباره هدایت کاربران به «خرگوشچالههای توهمی»، و یک پرونده قضایی که والدین نوجوانی را متهم میکند ChatGPT را به تشدید افکار خودکشی فرزندشان مرتبط دانستهاند، موجب شد شرکت مجموعهای از بهروزرسانیهای ایمنی را ارائه دهد. از جمله این اقدامها میتوان به عرضه مدلهای جدید (از جمله GPT-5)، کاهش «تملقگویی» مدلها، راهاندازی روتر شناسایی رفتارهای نگرانکننده و ابزارهای محدودیت سنی و کنترل والدین اشاره کرد.
چه تغییراتی در راه است؟
آلتمن گفته با گسترش سیستم age-gating (فیلترینگ سنی) و پیروی از اصل «بزرگسالان را مانند بزرگسالان رفتار کنیم»، در دسامبر امکان محتوای اروتیک برای کاربرانی که سنشان تأیید شده فراهم خواهد شد. سخنگوی OpenAI نیز به رسانهها گفته شرکت روی سامانهای برای پیشبینی سن کاربر کار میکند و در صورت خطا ممکن است از کاربر بزرگسال خواسته شود تصویر کارت شناسایی رسمی خود را برای اصلاح تشخیص ارسال کند — اقدامی که آلتمن آن را «مصالحهای در برابر حریم خصوصی» توصیف کرده است.
ملاحظات ایمنی و نگرانیهای حقوقی
با وجود ادعای OpenAI مبنی بر کاهش مسائل جدی سلامت روان، شرکت شواهد جامع و مستقلی درباره رفع کامل این مشکلات عرضه نکرده است. افزون بر این، معرفی محتوای اروتیک پرسشهایی جدی درباره تأثیر آن بر کاربران آسیبپذیر، بهویژه نوجوانان، به وجود میآورد. مطالعهای تازه نشان میدهد درصد قابلتوجهی از دانشآموزان دبیرستانی تعاملهای رومانتیک یا احساسی با چتباتها را تجربه یا گزارش کردهاند؛ بنابراین کنترل دقیق سن و اثرات روانی چنین قابلیتهایی اهمیت فراوانی دارد.
مسائل حریم خصوصی و احراز هویت
پیشنهاد OpenAI برای استفاده از پیشبینی سن و در موارد خطا درخواست آپلود کارت شناسایی، یک چالش مهم حریم خصوصی است. ذخیره یا پردازش دادههای حساس هویتی میتواند مخاطراتی از جمله سواستفاده یا نقض اطلاعات را به همراه داشته باشد؛ لذا نحوه پیادهسازی و سیاستهای نگهداری داده باید شفاف و تحت نظارت دقیق باشد.
رقابت، رشد و تعادل در سیاستها
OpenAI در رقابتی فشرده با شرکتهایی مانند گوگل و متا برای جذب کاربران انبوه قرار دارد و فشار برای رشد سریع میتواند محرکی برای بازنگری سیاستهای محتوا باشد. مدلهایی مانند Character.AI نشان دادهاند که امکان بازیابی تعامل کاربران با نقشآفرینیهای رومانتیک یا اروتیک میتواند زمان استفاده را افزایش دهد؛ اما همین ویژگیها ریسکهای اخلاقی و اجتماعی به همراه دارند. تعادل میان توسعه محصول، افزایش تعامل کاربران و حفاظت از افراد آسیبپذیر مهمترین چالش پیش روی OpenAI خواهد بود.
آنچه در انتظار است
هنوز مشخص نیست آیا قابلیتهای اروتیک به ابزارهای تولید صوت، تصویر و ویدئو OpenAI هم تسری خواهد یافت یا نه. همچنین تشکیل شورای متخصصان سلامت روان که OpenAI آن را اعلام کرده میتواند گامی مثبت در جهت مشاوره کارشناسی باشد، اما اثرگذاری واقعی آن وابسته به شفافیت، پیادهسازی مناسب و ارائه دادههای مستقل درباره نتایج ایمنی است. در نهایت، مسیر پیشروی OpenAI نمایانگر تنشی است میان خواست رشد و نوآوری و ضرورت حفاظت از سلامت روان و حریم کاربران—مسیری که باید با احتیاط و شفافیت بیشتری دنبال شود.