کالیفرنیا گامی تاریخی در قانونگذاری هوش مصنوعی برداشت؛ لایحه SB 243 اکنون در انتظار امضای فرماندار
مجلس ایالتی و سنای کالیفرنیا با حمایت دوحزبی لایحه SB 243 را تصویب کردند؛ لایحهای که هدف آن تنظیم و اعمال استانداردهای ایمنی برای «چتباتهای همدم» (AI companion chatbots) بهمنظور حفاظت از خردسالان و کاربران آسیبپذیر است. این لایحه اکنون به میز فرماندار گاوین نیوسام ارجاع شده و او تا 12 اکتبر فرصت دارد آن را امضا یا وتو کند. در صورت امضای نیوسام، قانون از 1 ژانویه 2026 لازمالاجرا خواهد شد و کالیفرنیا را به نخستین ایالتی تبدیل میکند که اپراتورهای چتباتهای همدم را ملزم به اجرای پروتکلهای ایمنی میسازد و شرکتها را در برابر نقض این استانداردها پاسخگو میداند.
چه چیزهایی در SB 243 آمده است؟
– تعریف چتبات همدم: سیستمهای هوش مصنوعی که پاسخهای تطبیقی و انسانیمانند ارائه میدهند و قادر به پاسخ به نیازهای اجتماعی کاربر هستند.
– ممنوعیت موضوعی: هدف اصلی جلوگیری از گفتوگوهای مربوط به افکار خودکشی، خودآسیبرسانی و محتوای جنسی صریح است.
– هشدارهای دورهای: پلتفرمها باید بهطور مکرر به کاربران هشدار دهند که با یک هوش مصنوعی صحبت میکنند و نه یک انسان؛ برای کاربران خردسال این هشدار هر سه ساعت تکرار خواهد شد و توصیه به گرفتن استراحت میشود.
– شفافیت و گزارشدهی سالانه: شرکتهایی که چتباتهای همدم ارائه میدهند — از جمله بازیگران بزرگ مانند OpenAI، Character.AI و Replika — ملزم به گزارش سالانه و شفافسازی میشوند؛ این بخش از لایحه از 1 ژوئیه 2027 اجرایی خواهد شد.
– مسئولیت حقوقی و جبران خسارت: افرادی که ادعا میکنند از نقض این قوانین متضرر شدهاند میتوانند علیه شرکتها اقامه دعوی کنند و خواستار اقدامات بازدارنده، خسارت تا سقف 1,000 دلار بابت هر تخلف و هزینههای وکالتی شوند.
پیشزمینه و انگیزه تصویب
این لایحه در ژانویه توسط سناتورهای استیو پادیلا و جاش بکر معرفی شد و پسزمینه آن نگرانیهای جدی درباره تأثیرات روانی چتباتها بر نوجوانان است. پرونده خودکشی نوجوانی به نام آدام رِین که گفته میشود مکالمات طولانی او با ChatGPT در آن نقش داشته، یکی از محرکهای اصلی تسریع در تصویب لایحه بود. همچنین افشای اسناد داخلی که نشان میداد برخی چتباتها مجوز گفتگوهای «رمانتیک» یا «حسی» با کودکان داشتهاند، فشار برای قانونگذاری را افزایش داد.
ملاحظات فنی و منتقدان
نسخه نهایی SB 243 ضعیفتر از پیشنویسهای اولیه است؛ برخی بندهای سختگیرانه از جمله ممنوعیت «پاداش متغیر» (variable reward) — مکانیزمهایی که با ارائه پاداشهای نادر یا محتوای قفلشونده، کاربران را به ادامه تعامل تشویق میکنند و میتوانند رفتاری اعتیادآور ایجاد کنند — حذف یا تعدیل شدهاند. همچنین الزام به رهگیری و گزارش دفعاتی که چتباتها بحثهایی را درباره خودکشی شروع میکنند، از متن لایحه حذف شده است. طراحان لایحه میگویند این تغییرات برای رسیدن به توازنی است که از یکسو به کاهش آسیبها کمک کند و از سوی دیگر الزامات غیرعملی یا فنی غیرقابلاجرا مجاز نکند.
واکنشها و زمینه ملی
همزمان با پیشرفت SB 243، نهادهای فدرال و مقامهای ایالتی نیز توجه خود را به ایمنی چتباتها معطوف کردهاند: کمیسیون تجارت فدرال (FTC) در حال آمادهسازی تحقیقاتی درباره تأثیر چتباتها بر سلامت روان کودکان است و دادستان کل تگزاس تحقیقات علیه برخی شرکتها مانند Meta و Character.AI را آغاز کرده است. در سطح کنگره، سناتورهایی مانند جاش هولی و اد مارکی به بررسیهای جداگانه پرداختهاند.
از سوی صنعت فناوری، شرکتهایی مانند OpenAI در نامهای از فرماندار خواستهاند که به چارچوبهای فدرال و بینالمللی کمتر سختگیرانه رجوع شود. در کنار مخالفت شرکتهای بزرگ فناوری با طرحهای شفافسازی گستردهتر، شرکتهایی مثل Anthropic از برخی پیشنهادها حمایت کردهاند.
پیامدها و گام بعدی
در صورت تبدیل SB 243 به قانون، این اقدام میتواند الگوی ایالتیِ مهمی برای قانونگذاری چتباتهای همدم در سطح ملی و بینالمللی ایجاد کند، شرکتها را ملزم به اتخاذ سازوکارهای حفاظتی، شفافیت و پاسخگویی کند و بهویژه حفاظت از خردسالان را تقویت نماید. اکنون همه نگاهها به تصمیم فرماندار نیوسام تا 12 اکتبر و سپس اجرای تدریجی الزامات قانونی در سالهای آینده دوخته شده است.