متا نحوه آموزش چتباتهای هوش مصنوعی را برای افزایش ایمنی نوجوانان تغییر میدهد
متا (شرکت مادر فیسبوک و اینستاگرام) اعلام کرده که نحوه آموزش چتباتهای هوش مصنوعی خود را برای اولویتبخشی به ایمنی نوجوانان تغییر میدهد. سخنگوی متا این خبر را بهطور اختصاصی به TechCrunch گفت؛ این تصمیم پس از افشای گزارشی تحقیقی درباره نبودِ محافظتهای کافی برای کاربران زیرسن در تعامل با ابزارهای هوش مصنوعی اتخاذ شده است.
چه تغییراتی اعمال میشود؟
– آموزش چتباتها بهگونهای بهروزرسانی میشود که در تعامل با نوجوانان درباره خودآسیبی، خودکشی، اختلالات خوردن یا مکالمات عاشقانه نامناسب وارد نشوند.
– در عوض، این چتباتها نوجوانان را به منابع تخصصی راهنمایی خواهند کرد.
– دسترسی نوجوانان به برخی «شخصیتهای» ساختهشده توسط کاربران که احتمالاً میتوانند گفتوگوهای نامناسب داشته باشند محدود میشود؛ و در حال حاضر نوجوانان تنها به شخصیتهایی که محوریت آموزشی و خلاقانه دارند دسترسی خواهند داشت.
دلیل و سابقه تصمیم
این اعلامیه دو هفته پس از گزارش تحقیقی رویترز منتشر شد که یک سند داخلی متا را نشان میداد و بهنظر میرسید مجاز شمردن گفتوگوهای جنسی با کاربران زیرسن را توجیه میکند. نمونههای نقلشده در آن سند عباراتی داشتند که توصیفهای جنسی و ستایشی از ظاهر نوجوانان را بهعنوان پاسخهای «قابل قبول» پیشنهاد میدادند. متا میگوید این سند با سیاستهای کلی شرکت ناسازگار بوده و اصلاح شده است، اما انتشار آن موجی از انتقادها و نگرانیها درباره خطرات ایمنی کودکان بهوجود آورد.
واکنشها و تبعات حقوقی
پس از این گزارش، سناتور جاش هاولی (Josh Hawley) بررسی رسمی درباره سیاستهای هوش مصنوعی متا را آغاز کرد و ائتلافی از 44 دادستان کل ایالتی نامهای به چند شرکت فعال در حوزه هوش مصنوعی از جمله متا فرستادند و بر اهمیت حفاظت از کودکان تأکید کردند. در نامه آمده بود که رفتارهای آشکارا نگرانکننده درباره سلامت عاطفی کودکان مشاهده شده است و ممکن است با قوانین کیفری ایالات متحده در تضاد باشد.
اظهارات متا
استفانی اتویِی، سخنگوی متا، پذیرفت که پیش از این چتباتهای شرکت میتوانستند با نوجوانان درباره این موضوعات صحبت کنند و این موضوع «اشتباهی» محسوب میشود. او گفت: «با رشد جامعه و تکامل فناوری، ما پیوسته در حال یادگیری نحوه تعامل جوانان با این ابزارها هستیم و محافظتها را تقویت میکنیم.» اتویِی اضافه کرد که این تغییرات فعلی موقتیاند و متا در پی ارائه بهروزرسانیهای ایمنی پایدارتر و کاملتری برای کاربران نوجوان است. او همچنین از اعلام تعداد کاربران خردسال یا پیشبینی کاهش کاربران در پی این تغییرات خودداری کرد.
نمونههایی که نگرانیزا بودند
گزارش رویترز مثالهایی از پاسخهایی را نشان داد که شامل توصیفهای جنسی و حتی ایجاد تصاویر خشونتآمیز یا جنسی از شخصیتهای عمومی بود. همچنین برخی شخصیتهای ساختهشده توسط کاربران در پلتفرمهای متا مانند «Step Mom» و «Russian Girl» بهعنوان نمونههایی از شخصیتهای جنسیشده مطرح شدهاند که دسترسی نوجوانان به آنها اکنون محدود خواهد شد.
پیامدها و نکات برای والدین، مربیان و سیاستگذاران
– والدین و مربیان باید دسترسی نوجوانان به ابزارهای مبتنی بر هوش مصنوعی را زیر نظر داشته باشند و درباره خطرات احتمالی گفتگو کنند.
– توسعهدهندگان و شرکتهای فناوری باید شفافیت بیشتری درباره دادههای آموزشی و سیاستهای حفاظتی ارائه دهند.
– قانونگذاران میتوانند از این گونه حوادث برای تدوین استانداردهای الزامآور در زمینه ایمنی کودکان در هوش مصنوعی استفاده کنند.
جمعبندی
تغییرات اعلامشده توسط متا اقدامی واکنشی در برابر افشاگریها و فشارهای قانونی است، اما شرکت خود بهصراحت اعلام کرده که این اقدامات موقتیاند و بهزودی بهروزرسانیهای جامعتر و بلندمدتتری در حوزه ایمنی نوجوانان ارائه خواهد شد. افزایش شفافیت، نظارت و استانداردسازی سیاستهای ایمنی هوش مصنوعی برای حفاظت از کاربران خردسال همچنان یک اولویت حیاتی در صنعت باقی خواهد ماند.