عنوان: OpenAI سیاستهای جدید برای محافظت از کاربران زیر ۱۸ سال را اعلام کرد؛ محدودیت در گفتگوهای جنسی و پاسخگویی به مخاطرات خودآسیبگرانه
OpenAI در بیانیهای رسمی که توسط مدیرعامل این شرکت، سم آلتمن، منتشر شد، مجموعهای از سیاستهای جدید کاربری را معرفی کرد که تمرکز ویژهای بر حفاظت از کاربران نوجوان زیر 18 سال دارد. بهگفته آلتمن، «ایمنی بر حریم خصوصی و آزادی نوجوانان اولویت دارد» و شرکت معتقد است این فناوری نوظهور نیازمند محافظتهای قابلتوجه برای کاربران خردسال است.
جزئیات کلیدی سیاستهای جدید
– محدودیت در گفتوگوهای نامناسب: بر اساس سیاست جدید، ChatGPT آموزش میبیند که با کاربران زیر ۱۸ سال وارد «گفتوگوی عشوهآمیز یا flirtatious» نشود و از تعاملات جنسیمحور با نوجوانان جلوگیری کند.
– افزایش نگهبانها درباره خودکشی: در مباحث مربوط به خودآسیبگرایی یا تخیّل سناریوهای خودکشی، ChatGPT محدودتر عمل خواهد کرد و در مواردی که خطر جدی ارزیابی شود، تلاش میکند والدین کاربر را مطلع کند و در شرایط بحرانی، در صورت لزوم مقامات محلی را در جریان قرار دهد.
– کنترل والدین و ساعت قطع سرویس: والدینی که حساب کاربری فرزند را ثبت میکنند میتوانند «ساعتهای قطع دسترسی» (blackout hours) تعیین کنند تا در بازههای زمانی مشخص ChatGPT در دسترس نباشد — قابلیتی که قبلاً وجود نداشت.
– تشخیص سن و ملاحظات فنی: OpenAI در پستی جداگانه اشاره کرده که در حال توسعه سیستمی بلندمدت برای تعیین اینکه آیا کاربر بالای ۱۸ سال است یا خیر. در موارد نامشخص، سیستم به سمت قوانین محدودکنندهتر تمایل خواهد داشت تا از ریسک برای نوجوانان جلوگیری شود. مطمئنترین روش برای والدین، پیوند دادن حساب نوجوان به حساب والدین است تا شناسایی و اطلاعرسانی در مواقع اضطرار قابلاطمینانتر شود.
زمینه و دلایل تغییرات
نگرانیها درباره مخاطرات چتباتها زمانی شدت گرفت که خانواده آدام رین، نوجوانی که پس از ماهها تعامل با ChatGPT خودکشی کرد، علیه OpenAI اقامه دعوی کردهاند؛ پرونده مشابهی نیز علیه Character.AI مطرح شده است. افزون بر این، گزارش رویترز اسناد سیاستیای را نشان داد که ظاهراً گفتوگوهای جنسی با کاربران نوجوان را تشویق میکردند؛ این گزارش باعث شد برخی شرکتها مانند متا سیاستهای چتبات خود را بازنگری کنند. همزمان، جلسۀ کمیته قضایی سنای آمریکا با عنوان «بررسی آسیبهای چتباتهای هوش مصنوعی» برگزار شد که والدین آدام رین نیز از سخنرانان آن هستند.
تضاد میان حریم خصوصی و ایمنی
آلتمن در این اعلامیه تأکید کرده که OpenAI همچنان به حفظ حریم خصوصی و آزادی تعاملات کاربران بالغ پایبند است، اما این اصل با اولویت دادن به ایمنی نوجوانان در تعارض قرار میگیرد و شرکت راهحلی را اتخاذ کرده که ممکن است مورد قبول همه نباشد.
نکات عملی برای والدین و مراقبان
– برای شناسایی قابلاطمینان نوجوانان، حساب فرزند را به حساب والد پیوند بزنید.
– از قابلیت تعیین «ساعتهای قطع دسترسی» استفاده کنید تا ساعات قابلدسترسی بودن سرویس برای نوجوانان کنترل شود.
– در صورت مشاهده رفتارهای نگرانکننده یا اشاره به خودآسیبگرایی، سریعاً اقدام و از منابع تخصصی کمک بگیرید.
منابع کمک فوری
اگر شما یا کسی که میشناسید در بحران فکری یا خطر خودآسیبگرایی قرار دارد، فوراً از خدمات محلی و بینالمللی کمک بگیرید. برای مثال در ایالات متحده: شماره تماس National Suicide Prevention Lifeline: 1-800-273-8255، همچنین امکان ارسال پیامک HOME به 741-741 یا تماس/پیامک با 988 برای پشتیبانی 24 ساعته وجود دارد. خارج از آمریکا میتوانید به پایگاه داده منابع بینالمللی در وبسایت International Association for Suicide Prevention مراجعه کنید. در هر کشور، جستجوی خطوط کمک و مراکز مشاوره محلی پیشنهاد میشود.
جمعبندی
اعلام سیاستهای جدید OpenAI گامی مهم برای پاسخگویی به ریسکهای مرتبط با کاربران نوجوان است؛ اما اجرای فنی این سیاست و تعادل میان حریم خصوصی و ایمنی، هنوز چالشی اساسی باقی میماند. انتظار میرود تغییرات آتی و بررسیهای قانونی و تحقیقاتی، مسیر سیاستگذاری در این حوزه را شکل دهد.