وجود نقص فنی در ChatGPT OpenAI: تولید محتوای غیرمناسب برای کاربران زیر ۱۸ سال
به دنبال آزمایشات انجام شده توسط TechCrunch، مشخص شد که یک نقص فنی در سیستم ChatGPT OpenAI باعث شده است که این چت‌بات محتوای گرافیکی و غیرمناسب برای کاربران زیر ۱۸ سال تولید کند. این نقص به‌ویژه زمانی آشکار شد که کاربران با سن کمتر در تلاش بودند تا محتوای جنسی و تحریک‌آمیز را درخواست کنند و در برخی موارد، چت‌بات همچنین این کاربران را به درخواست محتوای صریح‌تر تشویق کرد.
OpenAI در گفت‌وگو با TechCrunch تأیید کرد که سیاست‌های این شرکت به‌طور واضح اجازه این نوع پاسخ‌ها را برای کاربران زیر ۱۸ سال نمی‌دهد و به همین خاطر، این نوع محتوا نباید برای این کاربران نمایش داده می‌شد. یک سخنگوی این شرکت در ایمیلی به TechCrunch گفت: “حفاظت از کاربران جوان اولویت اصلی ماست و مشخصات مدل ما، که رفتار مدل را هدایت می‌کند، به‌طور واضح محتواهای حساس مانند آثار جنسی را تنها به زمینه‌های محدود مانند گزارش‌های علمی، تاریخی یا خبری محدود می‌کند.” او همچنین افزود که “در این مورد، یک نقص فنی سبب شده است که پاسخ‌های خارج از این دستورالعمل‌ها ارائه شود و ما به‌طور فعال در حال اعمال اصلاحاتی برای محدود کردن این نوع تولیدات هستیم.”
هدف TechCrunch از بررسی ChatGPT، تست نقاط حفاظتی موجود برای حساب‌های ثبت‌نام شده به نام کاربران زیر سن قانونی بود، در شرایطی که OpenAI پلتفرم را به طور کلی بیشتر مجاز کرده بود. در ماه فوریه، OpenAI مشخصات فنی خود را به‌روزرسانی کرد تا روشن کند که مدل‌های هوش مصنوعی که قدرت ChatGPT را دارند، از بحث در مورد موضوعات حساس پرهیز نخواهند کرد. همچنین، این شرکت در همان ماه برخی از پیام‌های هشداردهنده را که کاربران را از احتمال نقض قوانین خدماتی این شرکت مطلع می‌کرد، حذف کرد. هدف از این تغییرات، کاهش آنچه که نیک ترینلی، مدیر محصول ChatGPT، آن را “ردهای بی‌دلیل و غیرقابل توجیه” می‌نامید، بود. اما یکی از نتایج این تغییرات این بود که ChatGPT با مدل هوش مصنوعی پیش‌فرض (GPT-4o) تمایل بیشتری به بحث در مورد موضوعاتی داشت که قبلاً از آن‌ها اجتناب می‌کرد، از جمله موارد مرتبط با فعالیت‌های جنسی.
برای انجام آزمایشات خود، TechCrunch بیش از هفت حساب مختلف ChatGPT با تاریخ تولدی نشان‌دهنده سن‌های بین ۱۳ تا ۱۷ سال ایجاد کرد. این شرکت از یک کامپیوتر واحد استفاده کرد اما هر بار که از حساب خارج می‌شد، کوکی‌ها را حذف کرد تا اطمینان حاصل شود که ChatGPT از داده‌های کش شده استفاده نمی‌کند. همچنین، سیاست‌های OpenAI مستلزم این است که کودکان بین ۱۳ تا ۱۸ سال قبل از استفاده از ChatGPT، رضایت والدین را کسب کنند، اما پلتفرم هیچ اقدام خاصی برای تأیید این رضایت در هنگام ثبت‌نام انجام نمی‌دهد. بنابراین هر کودک بالای ۱۳ سال می‌تواند بدون تأیید اقدام والدین، یک حساب کاربری ایجاد کند.
در هر یک از حساب‌های آزمایشی، مکالمه تازه‌ای با درخواست “با من برای من صحبت کن” آغاز شد و در بسیاری از موارد، تنها با چند پیام و درخواست بیشتر، ChatGPT داستان‌های جنسی را ارائه می‌داد. این چت‌بات معمولاً درخواست راهنمایی از کاربران درباره کینک‌ها و سناریوهای نقش‌آفرینی می‌کرد. اگرچه بسیاری از مواقع ChatGPT هشدار می‌داد که دستورالعمل‌های آن اجازه تولید محتوای جنسی صریح را نمی‌دهند، اما در برخی موارد به توصیف رفتارهای جنسی و سایر جزئیات صریح پرداخته است.
پیش‌تر، بررسی‌هایی توسط روزنامه وال استریت ژورنال نشان داد که رفتار مشابهی از چت‌بات Meta AI، دیگر سیستم هوش مصنوعی، نیز گزارش شده است. به‌هرحال، کاهش برخی از حفاظ‌های هوش مصنوعی OpenAI در شرایطی اتفاق افتاده است که این شرکت به‌طور فعال محصولات خود را به مدارس معرفی می‌کند و با سازمان‌هایی مانند Common Sense Media همکاری دارد تا راهنماهایی برای استفاده از تکنولوژی‌های خود در کلاس درس تولید کند.
در یک سند حمایتی برای مشتریان آموزشی، OpenAI اشاره کرده است که ChatGPT “ممکن است خروجی‌هایی تولید کند که برای همه مخاطبان یا سنین مناسب نیستند” و معلمان باید هنگام استفاده از ChatGPT با دانش‌آموزان مراقب باشند. این شرایط، نیازمند بازنگری و بهبودهای بیشتر در سیستم‌های حفاظتی هوش مصنوعی برای حمایت از کاربران جوان و جلوگیری از دسترسی به محتوای نامناسب است.