دادستان تگزاس تحقیق رسمی علیه Meta AI Studio و Character.AI را آغاز کرد؛ نگرانی از بازاریابی گمراهکننده بهعنوان ابزارهای سلامت روان
کن پکسون، دادستان کل تگزاس، روز دوشنبه اعلام کرد که دفتر وی تحقیقاتی را علیه Meta AI Studio و Character.AI آغاز کرده است تا بررسی کند آیا این شرکتها «در اعمال تجاری گمراهکننده و بازاریابی بهعنوان ابزارهای سلامت روانی» مرتکب تخلف شدهاند یا خیر. به گفته پکسون، در دنیای دیجیتال امروز باید از کودکان تگزاس در برابر فناوریهای گمراهکننده و استثمارگر محافظت کرد؛ او هشدار داده که پلتفرمهای مبتنی بر هوش مصنوعی میتوانند با وانمود کردن نقش منابع حمایت عاطفی، کاربران آسیبپذیر بهویژه کودکان را فریب دهند و پاسخهایی کلی، بازتولید شده و مبتنی بر دادههای جمعآوریشده را بهعنوان مشاوره درمانی جا بزنند.
زمینه و دلیل شروع تحقیق
این بررسی چند روز پس از آن کلید خورد که سناتور جاش هاولی از آغاز تحقیقاتی درباره متا خبر داد، پس از گزارشی که نشان داد برخی چتباتهای متا با کودکان تعاملات نامناسبی از جمله ابراز علاقه و شوخیهای عشقی داشتهاند. دفتر دادستان کل تگزاس مدعی شده که Meta و Character.AI شخصیتهای مجازی (personas) خلق کردهاند که بهصورت «ابزارهای درمانی حرفهای» معرفی میشوند در حالی که فاقد صلاحیت پزشکی و نظارت مناسب هستند.
محتوا، هشدارها و نگرانیهای حریم خصوصی
– Character.AI: در بین میلیونها شخصیت ساختهشده توسط کاربران، رباتی به نام «Psychologist» مورد توجه بسیاری از کاربران جوان قرار گرفته است. سخنگوی Character.AI میگوید هر گفتوگو دارای هشدار برجستهای است که یادآور میشود شخصیتها افراد واقعی نیستند و محتوا باید بهعنوان داستان یا ساختگی تلقی شود. همچنین هنگام ساخت شخصیتهایی با عنوان «روانشناس»، «رواندرمانگر» یا «پزشک» هشدارهای اضافی افزوده میشود که نباید به آنها بهعنوان مشاور حرفهای تکیه کرد.
– Meta: متا میگوید چتباتهایش را بهوضوح برچسبگذاری میکند و در پاسخها توضیح داده میشود که تولید شده توسط هوش مصنوعی هستند نه انسان. سخنگوی متا اظهار داشته مدلها طوری طراحی شدهاند که در صورت لزوم کاربران را به متخصصان پزشکی یا خدمات ایمنی ارجاع دهند. با اینحال گزارشها نشان میدهد بسیاری از کودکان ممکن است این هشدارها را درک نکنند یا نادیده بگیرند.
مسائل دادهمحور و تبلیغات هدفمند
دادستان تگزاس به این نکته اشاره کرده که باوجود ادعای چتباتها درباره محرمانه بودن گفتگوها، شرایط خدمات این پلتفرمها نشان میدهد تعاملات کاربران لاگ، ردیابی و برای توسعه الگوریتم و هدفگیری تبلیغاتی مورد بهرهبرداری قرار میگیرد که نگرانیهای جدی درباره نقض حریم خصوصی و سوءاستفاده از دادهها ایجاد میکند. سیاست حفظ حریم خصوصی متا صراحتاً اعلام میکند که پرامپتها، بازخوردها و تعاملات برای بهبود هوش مصنوعی و فناوریهای مرتبط جمعآوری میشوند و امکان بهاشتراکگذاری اطلاعات برای «خروجیهای شخصیتر» با طرفهای ثالث وجود دارد که عملاً با مدل درآمدی مبتنی بر تبلیغات متا همخوانی دارد.
از سوی دیگر، سیاست خصوصی Character.AI ثبت شناسهها، دموگرافیک، اطلاعات مکان و رفتار مرور و استفاده از اپلیکیشن را ذکر میکند و اشاره دارد که کاربران را در سراسر شبکههای تبلیغاتی مانند TikTok، YouTube، Reddit، Facebook، Instagram و Discord ردیابی میکند. این دادهها برای آموزش مدلها، شخصیسازی خدمات و ارائه تبلیغات هدفمند به اشتراک گذاشته میشود. سخنگوی Character.AI گفته است که آزمایشهای ابتدایی تبلیغات هدفمند شروع شده اما تاکنون شامل محتوای چتها نبوده و سیاست مزبور برای همه کاربران از جمله نوجوانان اعمال میشود.
زمینه قانونی: ارتباط با قانون حفاظت آنلاین کودکان (KOSA)
این نوع جمعآوری داده و تبلیغات هدفمند دقیقاً همان چیزی است که قوانین پیشنهادی مانند KOSA (Kids Online Safety Act) میخواهند علیه آنها اقدام کنند. KOSA با حمایت دوحزبی سال گذشته با مخالفت گسترده لابیهای صنعت فناوری مواجه شد و روند تصویب آن به تأخیر افتاد؛ این قانون بار دیگر در سنای آمریکا معرفی شده است و از جمله اهدافش افزایش حفاظت کودکان در فضای آنلاین است.
اقدام قانونی فعلی
کن پکسون برای پیگیری احتمال نقض قوانین حمایت از مصرفکننده در تگزاس، «درخواستهای تحقیق مدنی» (civil investigative demands) صادر کرده است که شرکتها را ملزم به ارائه مدارک، دادهها و شهادت در جریان تحقیق میکند. این اقدام میتواند اولویتهای نظارتی جدیدی را در خصوص نحوه بازاریابی و مدیریت دادهها توسط پلتفرمهای هوش مصنوعی مشخص کند.
واکنشها و وضعیت فعلی
متا و Character.AI هر دو تاکید دارند که سرویسهایشان برای کودکان زیر 13 سال طراحی نشدهاند، اما نگرانی در مورد حسابهای ساختهشده توسط کودکان خردسال و شخصیتهای جذاب برای کاربران جوان همچنان مطرح است. Character.AI تایید کرده که برخی شخصیتها و طراحیهای پلتفرم جذابیت بالایی برای کاربران جوان دارد و حتی مدیرعامل این شرکت گفته فرزند ششسالهاش تحت نظارت از این سرویس استفاده کرده است؛ نکتهای که پرسشهای جدیدی درباره مسئولیتپذیری والدین و شرکتها در محافظت از اطلاعات کودکان مطرح میکند.
دادستان تگزاس و رسانهها در انتظار پاسخهای بیشتر از شرکتها برای روشن شدن نطاق دادهها، نحوه بهرهبرداری از تعاملات کاربران و تدابیر حفاظتی هستند. این بررسی میتواند تأثیر مهمی بر مقررات آینده خدمات هوش مصنوعی و حفاظت از کودکان در فضای مجازی داشته باشد.