استان کالیفرنیا نخستین ایالتی شد که استفاده از چتباتهای همراهِ مبتنی بر هوش مصنوعی را قانونمند میکند؛ فرماندار گاوین نیوسام روز دوشنبه «قانون تاریخی» SB 243 را امضا کرد تا اپراتورهای چتباتهای همراه را موظف به اجرای پروتکلهای ایمنی برای محافظت از کودکان و کاربران آسیبپذیر کند.
هدف و ضرورت قانون
قانون SB 243 بهمنظور کاهش خطرات ناشی از تعاملات با رباتهای گفتگو (companion chatbots) طراحی شده است؛ بهویژه در مواردی که این سامانهها میتوانند مخاطبان جوان را به محتوای جنسی، گفتوگوهای رمانتیک نامناسب یا حتی تشدید گرایشهای خودآسیبزنی هدایت کنند. این قانون پس از موارد تراژدیکی مانند خودکشی نوجوان آدام رِین، که گفته میشود در پی تعاملات طولانی با ChatGPT رخ داد، و نیز افشای اسنادی که نشان میداد برخی چتباتها توانایی ورود به گفتوگوهای “رمانتیک” با کودکان را داشتهاند، تدوین و شتاب گرفت.
مهمترین الزامات SB 243
– اجرا از 1 ژانویه 2026: شرکتها تا این تاریخ باید الزامات را پیادهسازی کنند.
– احراز هویت سنی: سازوکارهای موثر برای تشخیص و محدودسازی دسترسی خردسالان به قابلیتها و محتوای حساس.
– افشاگری مبنی بر مصنوعی بودن محتوا: پلتفرمها باید بهوضوح اعلام کنند که تعاملات تولیدشده بهوسیلۀ هوش مصنوعی هستند و چتباتها نباید خود را بهعنوان متخصصین پزشکی یا درمانگر معرفی کنند.
– پروتکلهای مقابله با خودآسیب و خودکشی: شرکتها ملزم به تهیه و گزارش پروتکلهای پاسخدهی به رفتارهای خودآسیبزنانه و ارسال آمارِ اعلانهای پیشگیری به وزارت بهداشت عمومی ایالت هستند.
– یادآوری زمان استراحت برای خردسالان و محدودیت نمایش تصاویر صریح جنسی: چتباتها باید به کاربران خردسال اعلانهای وقفه بدهند و از نمایش محتوای جنسی صریح جلوگیری کنند.
– هشدارها و اطلاعرسانی درباره ریسکهای تعامل با چتباتها در فضای مجازی.
– افزایش مجازات برای تولید و سودجویی از دیپفِیکهای غیرقانونی: جریمههایی تا سقف 250,000 دلار به ازای هر مورد.
دامنه مسئولیت و شرکتهای تحت تأثیر
قانون SB 243 شرکتهای بزرگ توسعهدهنده هوش مصنوعی (مانند OpenAI، Meta، Anthropic، Google DeepMind) و نیز استارتآپهای متمرکز بر چتباتهای همراه (مانند Character AI و Replika) را مشمول الزامات میکند و در صورت عدم رعایت استانداردها، مسئولیت قانونی برای آنها پیشبینی شده است.
پاسخها و اقدامات اولیه شرکتها
پیش از تصویب قانون، برخی بازیگران صنعت قدمهایی برای کاهش ریسک برداشتهاند؛ برای مثال OpenAI کنترلهای والدین، حفاظت از محتوا و سامانه تشخیص خودآسیب را برای کاربران خردسال ChatGPT معرفی کرده است و برخی پلتفرمها در مکالمات خود اعلام میکنند که محتوا تولیدِ هوش مصنوعی و ساختگی است.
پیشینه و قوانین مشابه
SB 243 دومین قانون مهم مرتبط با هوش مصنوعی در کالیفرنیا در هفتههای اخیر است؛ پیشتر، در 29 سپتامبر، نیوسام قانون SB 53 را امضا کرد که شفافیت را در استودیوهای بزرگ هوش مصنوعی الزامی میسازد و از افشاگران (whistleblowers) حفاظت قانونی میکند. علاوه بر کالیفرنیا، ایالتهایی مثل ایلینوی، نوادا و یوتا قوانینی وضع کردهاند که استفاده از چتباتها را بهعنوان جایگزین مراقبتهای روانشناختی دارای مجوز محدود یا ممنوع میسازند.
تبعات برای کاربران، والدین و توسعهدهندگان
این قانون هم پیامی به خانوادهها دارد و هم به توسعهدهندگان و سرمایهگذاران صنعت: نقش نظارت و چارچوبهای حفاظتی در برابر تهدیدات واقعی ضروری است. والدین باید از ابزارهای کنترل والدین و تنظیمات حریم خصوصی استفاده کنند و توسعهدهندگان ملزم به طراحی ایمنتر، شفافتر و پاسخگوتر خواهند شد.
نظرات مسئولان
نیوسام در بیانیهای تاکید کرد که فناوریهای نوظهور میتوانند الهامبخش و مفید باشند، اما بدون گاردریل مناسب ممکن است کودکان را به خطر بیندازند و افزود که ایالت کالیفرنیا در عین ادامه حمایت از نوآوری، بر مسئولیتپذیری شرکتها تأکید دارد. سناتور استیو پادیلا نیز تصویب این قانون را گامی رو به جلو برای ایجاد چارچوبهای ایمنی در برابر “فناوریهای بسیار قدرتمند” توصیف کرد و خواستار تسریع در اقدامات حمایتی شد.
جمعبندی
SB 243 نشانهای از جهتگیری نظارتی شدیدتر در قبال چتباتهای همراه است و میتواند الگوی قانونی برای سایر ایالات و حتی سطح فدرال باشد. برای کاربران و خانوادهها آگاهی از ریسکها و بهرهگیری از ابزارهای حفاظتی اهمیت بیشتری خواهد یافت و شرکتها نیز ملزم به بازطراحی محصولات و سیاستهای خود بهمنظور رعایت استانداردهای قانونی و اخلاقی خواهند شد.