سناجرم جوش هاولی (سناتور جمهوریخواه از میزوری) اعلام کرد که قصد دارد تحقیقاتی درباره محصولات هوش مصنوعی مولد شرکت متا (Meta) آغاز کند تا مشخص شود آیا این فناوریها کودکان را استثمار، فریب یا به هر نحو آسیب میرسانند یا خیر. این اقدام پس از انتشار اسناد داخلی فاششده صورت گرفته که نشان میدهد در دستورالعملهای داخلی متا به چتباتها اجازه داده شده بود تا گفتگوهای «رمانتیک» و «حسی» با کودکان داشته باشند.
خبرگزاری رویترز ابتدا این اسناد را منتشر کرد؛ سندی با عنوان «GenAI: Content Risk Standards» که نمونههایی از مکالمات را شامل میشد، از جمله نمونهای که نشان میداد چتبات میتواند با یک کودک ۸ ساله جملاتی مانند «هر سانتیمتر از تو شاهکاری است – گنجی که عمیقاً برایم ارزشمند است» رد و بدل کند. سخنگوی متا به TechCrunch اعلام کرده است که چنین مثالهایی با سیاستهای شرکت ناسازگار بوده و از دستورالعملها حذف شدهاند.
هاولی که ریاست کمیته فرعی سنا در امور جنایت و مبارزه با تروریسم را بر عهده دارد، در نامهای به مارک زاکربرگ، مدیرعامل متا، خواستار ارائه کامل این دستورالعملها شده است؛ از جمله هر پیشنویس، نسخههای دارای علامتهای اصلاحی (redline) و نسخه نهایی، فهرست محصولاتی که بر اساس این استانداردها عمل کردهاند، گزارشهای مربوط به ایمنی و حوادث، و هویت افرادی که در تغییر سیاستها نقش داشتهاند. در نامه آمده است که متا تا تاریخ ۱۹ سپتامبر مهلت دارد اطلاعات خواستهشده را تحویل دهد.
هاولی در پیام خود در شبکه X نوشت: «آیا هیچ کاری وجود دارد که شرکتهای بزرگ فناوری برای پول سریع انجام ندهند؟» و افزود که بررسی سنا بر این متمرکز خواهد بود که آیا فناوری متا به کودکان آسیب رسانده و آیا این شرکت در مورد سازوکارهای حفاظتی خود به عموم یا ناظران اطلاعات غلط ارائه کرده است یا خیر.
سناتور مارشا بلکبرن (جمهوریخواه از تنسی) نیز از این تحقیق حمایت کرده و گفته است: «در حفاظت از کودکان گرانبها در فضای آنلاین، متا از هر حیث شکست خورده است.» او ضمن اشاره به طراحی پلتفرمها و پیامدهای آن، این رویداد را دلیلی برای ضرورت تصویب قانون حفاظت آنلاین کودکان (Kids Online Safety Act) دانسته است.
اهمیت این پرونده فراتر از یک مناقشه شرکتی است؛ هوش مصنوعی مولد و چتباتها ریسکهای نوینی مانند امکان فریب، ایجاد پیوندهای ناسالم، و تولید محتوای نامناسب را برای گروههای آسیبپذیر از جمله کودکان به همراه دارند. از جنبه فنی و حقوقی، سوالاتی درباره مکانیسمهای تایید سن، نظارت انسانی بر تولید محتوا، معیارهای طراحی اخلاقی و شفافسازی درباره دادههای آموزشی و دستورالعملهای داخلی مطرح میشود.
در صورت ادامه روند تحقیق، انتظار میرود کمیتههای سنا علاوه بر درخواست مدارک، جلسات استماع برگزار کنند و در صورت لزوم از قدرت استیضاح اسناد استفاده نمایند. چنین تحقیقاتی میتواند به اصلاح مقررات، افزایش شفافیت شرکتهای فناوری و تقویت استانداردهای ایمنی محصولات مبتنی بر هوش مصنوعی منجر شود.
متا تاکنون اعلام کرده که نمونههای مشکلساز حذف شدهاند، اما سناتورها خواستار شفافسازی کامل درباره نحوه تصویب این سیاستها، طول دوره اجرایی بودن آنها و اقدامات اصلاحی انجامشدهاند. نتیجه این بررسیها میتواند پیامدهای مهمی برای تنظیمگری هوش مصنوعی و حفاظت کودکان در فضای دیجیتال داشته باشد.