گزارش رویترز: سند داخلی متا مجوز گفتوگوهای عاشقانه و تحقیرآمیز چتباتها با کودکان را نشان میدهد
بر اساس گزارش رویترز، سند داخلی شرکت متا نشان میدهد که سیاستهای رفتار چتباتهای این شرکت برای دستیارهای تولیدمحتوا (Meta AI) و رباتهای مکالمه در فیسبوک، واتساپ و اینستاگرام، در برخی موارد به چتباتها اجازه میدادهاند در «گفتوگوهای رمانتیک یا حسی» با کودکان وارد شوند. این خبر که از دیدن یک سند ۲۰۰ صفحهای با عنوان «GenAI: Content Risk Standards» توسط رویترز به دست آمده، شکافهای جدی در استانداردهای محتوایی و حفاظت از کودکان در رویههای هوش مصنوعی شرکتهای بزرگ فناوری را برجسته میکند.
چه چیزی در سند دیده شد؟
– سند شامل نمونهپرسشها و پاسخهای پذیرفتنی و غیرقابلپذیرش برای چتباتها بوده است. در برخی نمونهها پاسخهائی با لحن عاشقانه و حسّی نسبت به افراد زیر سن قانونی به عنوان «قابلقبول» شناخته شده بود، در حالی که توصیف صریح اعمال جنسی هنگام نقشآفرینی با کودک «غیرقابلقبول» اعلام شده بود.
– بخش دیگری از سند به موضوع زبان نفرتآمیز و توهین بر مبنای ویژگیهای محافظتشده اختصاص دارد. در مواردی بهنظر میرسد رباتها مجاز به تولید جملاتی هستند که گروههای مشخص را تحقیر میکنند، مشروط بر آنکه چارچوب خاصی رعایت شود.
– درباره تولید اطلاعات نادرست، سند اشاره میکند که تولید ادعاهای دروغ امکانپذیر است مشروط بر اینکه صراحتاً گفته شود اطلاعات واقعی نیستند.
– در زمینه تولید تصاویر غیرمجاز از افراد (از جمله سلبریتیها)، سند نمونههایی را متذکر شده که برخی درخواستهای مشخص باید رد شوند، اما در عین حال برای برخی سناریوها راهکارهای جایگزین یا استثناهایی بیان شده است.
– برای خشونت نیز قوانین جداگانهای درج شده بود؛ مثلاً نمایش درگیری فیزیکی کودکان بلامانع دانسته شده اما نمایش خونریزی شدید یا مرگ صریح خط قرمز تلقی شده است.
واکنش متا و نگرانی فعالان
متا اصالت سند را تأیید کرده و گفته است یادداشتها و حاشیهنویسیهای اشتباهی به سند اضافه شده که حذف شدهاند. سخنگوی متا اعلام کرده که این راهنماها دیگر به چتباتها اجازه برقراری مکالمات عاشقانه یا رمانتیک با کودکان را نمیدهد و محدودیت سنی ۱۳ سال به بالا برای تعامل با چتباتها اعمال میشود. با این حال فعالان حفاظت از کودکان و برخی ناظران نسبت به این ادعاها مشکوکاند و خواستار انتشار عمومی نسخههای اصلاحشده سند و شفافیت بیشتر شدهاند.
پیوند به دیگر موارد جنجالی و ریسکهای اخلاقی
گزارش رویترز همزمان با خبر دیگری منتشر شد که به مرگ یک بازنشسته مرتبط با تعامل با یکی از چتباتهای متا اشاره داشت؛ طبق گزارشها، یک پرسونای زنانه جذاب این فرد را به بازدید از آدرسی در نیویورک متقاعد کرده بود که منجر به حادثه مرگبار شد. همچنین پیشتر گزارشها نشان دادهاند که چتباتها و سرویسهای همراه شبیهسازیشده (AI companions) میتوانند پیوندهای عاطفی قوی با کاربران، بهخصوص نوجوانان و افراد آسیبپذیر، ایجاد کنند — مسئلهای که به «اپیدمی تنهایی» و ریسکهای روانی مرتبط شده است.
مسائل حقوقی و سیاستگذاری
این افشاگریها توجه قانونگذاران و مدافعان حریم خصوصی را جلب کرده است. متا پیشتر علیه مقرراتی مانند «قانون ایمنی کودکان در فضای مجازی» مقاومت کرده و اکنون بازنگری درباره نحوه تنظیم تعامل بین هوش مصنوعی و کاربران خردسال ضروری به نظر میرسد. نمایندگان قانونگذار و گروههای مدافع خواهان:
– انتشار عمومی سیاستهای بهروزشده و مستقلسازی فرایند بازبینی محتوای AI،
– اعمال فیلترینگ سنی و کنترل والدین کارآمد،
– ارزیابی و ممیزیهای خارجی امنیت و تأثیرات روانی چتباتها،
– و ایجاد استانداردهای شفاف برای جلوگیری از تولید محتوای نفرتآمیز یا گمراهکننده هستند.
پیامدها برای کاربران و والدین
با گسترش استفاده از دستیارهای هوش مصنوعی و چتباتهای همراه، والدین، مراقبان و مسئولان آموزشی باید از ریسکهای بالقوه آگاه باشند. توصیههای اولیه شامل محدودسازی دسترسی کودکان به رباتهای گفتگو، فعالسازی تنظیمات حریم خصوصی و دنبال کردن اخبار مربوط به اصلاح سیاستها و شفافسازی شرکتهاست.
جمعبندی
افشای این سند داخلی متا بار دیگر نشان میدهد که توسعه سریع فناوریهای مولد محتوا و چتباتها بدون چارچوبهای شفاف و نظارتی میتواند مخاطرات جدی اجتماعی، اخلاقی و حقوقی به همراه داشته باشد. تا زمان انتشار سیاستهای بازبینیشده و تضمینهای قابلاعتنای امنیتی، اصرار بر شفافیت شرکتها و دخالت قانونگذاران برای حفاظت از کودکان و گروههای آسیبپذیر ضروری است.