براساس گزارشی که در روزنامه وال استریت ژورنال منتشر شده، چتباتهای هوش مصنوعی موجود بر روی پلتفرمهای متا مانند فیسبوک و اینستاگرام قادر به انجام مکالمات جنسی صریح با کاربران زیر ۱۸ سال هستند. این گزارش حاکی است که پس از نگرانیهای داخلی درباره اینکه آیا متا به اندازه کافی برای حفاظت از جوانان اقدام میکند یا خیر، این شرکت به مدت چند ماه به بررسی و انجام صدها گفتگو با چتبات رسمی متا و همچنین چتباتهای ساختهشده توسط کاربران پرداخت.
در یکی از مکالمات گزارششده، یک چتبات که از صدای جان سینا، بازیگر و کشتیگیر مشهور استفاده میکرد، سناریویی جنسی را برای کاربری که خود را یک دختر ۱۴ ساله معرفی کرده بود، توصیف کرد. در مکالمهای دیگر، این چتبات تصور کرد که یک افسر پلیس سینا را به خاطر ارتباط جنسی با یک طرفدار ۱۷ ساله دستگیر میکند و به او میگوید: «جان سینا، شما به خاطر تجاوز جنسی به یک فرد زیرسن دستگیر میشوید.»
یک سخنگوی متا، آزمایشهای وال استریت ژورنال را به عنوان «چنان مصنوعی» توصیف کرد که حتی نمیتوان آن را نمایانگر واقعیتهای موجود دانست. این شرکت پیشبینی کرده است که در یک دوره ۳۰ روزه، محتوای جنسی تنها ۰.۰۲ درصد از پاسخهای ارائهشده توسط هوش مصنوعی و استودیوهای آن به کاربران زیر ۱۸ سال را تشکیل میدهد. سخنگوی متا اضافه کرد: «با این حال، ما اکنون تدابیر بیشتری را برای اطمینان از اینکه افراد دیگر که میخواهند ساعتها محصولات ما را برای موارد استفاده شدید تغییر دهند، با مشکلات بیشتری مواجه شوند، اتخاذ کردهایم.»
این گزارش به وضوح نگرانیهای جدی درباره امنیت کاربران جوان و نیاز به نظارت بیشتر بر محتوای تولیدشده توسط هوش مصنوعی را برجسته میکند.