کالیفرنیا، نخستین ایالتی که شفافیت ایمنی هوش مصنوعی را از غولهای این صنعت مطالبه کرد
کالیفرنیا این هفته بهعنوان اولین ایالت آمریکا قانونی امضا کرد که از بزرگترین شرکتهای تولیدکننده هوش مصنوعی میخواهد شفافیت در سیاستها و پروتکلهای ایمنی خود را رعایت کنند. فرماندار گاوین نیوسام با امضای لایحه SB 53 شرکتهایی مانند OpenAI و Anthropic را موظف کرد تا پروتکلهای ایمنیشان را اعلام کرده و به آنها پایبند بمانند؛ اقدامی که میتواند الگوی جدیدی برای تنظیم هوش مصنوعی در سطح ایالتی و ملی ایجاد کند.
چه چیزِ جدیدی در SB 53 دیده میشود؟
SB 53 فراتر از الزام به افشای مستندات ایمنی است و سازوکارهایی نظیر حفاظت از افشاگران (whistleblower protections) و الزام گزارشدهی درباره حوادث ایمنی را نیز دربر میگیرد. هدف این قانون تسهیل شناسایی، گزارش و رسیدگی به مخاطرات واقعی یا بالقوه ناشی از مدلهای هوش مصنوعی است، بدون اینکه لایههای حقوقی پیچیده (که ممکن است از افشای اطلاعات جلوگیری کند) مانع شفافیت شوند.
نگاه کارشناسان: چرا این قانون تصویب شد؟
آدام بیلن، معاون سیاستگذاری عمومی در Encode AI، در برنامه پادکست Equity (از تولیدات TechCrunch) به تشریح جزئیات SB 53 پرداخت. او توضیح داد که این مصوبه چگونه از مسیرهای پیشین متفاوت است، چه تدابیری برای حمایت از اطلاعدهندگان در نظر گرفته شده و «شفافیت بدون مسئولیتپذیری قضایی» در عمل چه معنایی دارد. بر اساس مواضع مطرحشده، این رویکرد تلاش میکند تعادلی میان الزامات شفافیت و محافظت شرکتها در برابر دعاوی حقوقی ایجاد کند تا اطلاعات حیاتی در دسترس نهادهای ناظر قرار گیرد.
چرا SB 53 توانست موفق شود، در حالی که SB 1047 ناکام ماند؟
یکی از نکات مورد اشاره بیلن، تفاوت رویکرد و متن قانونی بین SB 53 و لایحه پیشین SB 1047 بود. به طور کلی، دلایل ناکامی لایحههای قبلی شامل مقاومت صنعتی، نگرانیهای مربوط به افشای اسرار تجاری و مسائل حقوقی بوده است. به نظر میرسد SB 53 با طراحی دقیقترِ چارچوبهای حفاظتی و با در نظر گرفتن مصالح ذینفعان مختلف، پذیرش سیاسی و اجرایی بیشتری یافته است.
مفهوم «شفافیت بدون مسئولیت» چیست؟
این مفهوم به معنای الزام شرکتها به ارائه اطلاعات و گزارشهای ایمنی، بدون آنکه این افشاسازی بهصورت خودکار زمینهساز دعاوی حقوقی جدید شود. هدف، تشویق شرکتها به اشتراکگذاری دادهها و پروتکلها برای ارتقای ایمنی عمومی است، نه گرفتار شدن در ریسک قضایی که میتواند تمایل به همکاری را کاهش دهد.
موضوعات باقیمانده در میز فرماندار
بیلن همچنین اشاره کرد که چندین موضوع دیگر از جمله مقررات مرتبط با «چتباتهای همراه» (AI companion chatbots) هنوز در اختیار فرماندار است؛ این رده از ابزارها که مستقیماً با مصرفکنندگان تعاملات احساسی و روزمره دارند، نگرانیهایی درباره حریم خصوصی، سلامت روانی کاربران، ضرورت رضایت آگاهانه و حفاظت از کودکان ایجاد کردهاند. تدوین مقررات مشخص برای این محصولات میتواند شامل ضوابط شفافیت، هشداردهی درباره محدودیتها و کنترلهای سن باشد.
پیامدها برای صنعت و سیاستگذاری
تصویب SB 53 میتواند الگوی تازهای برای سایر ایالتها و حتی قانونگذاران فدرال باشد. این قانون روندی را آغاز میکند که در آن تعادل میان نوآوری، حفاظت از اسرار تجاری و نیاز به شفافیت برای ایمنی عمومی بازتعریف میشود. از سوی دیگر، شرکتهای فناوری باید آماده سازگار شدن با الزامهای گزارشدهی، ایجاد کانالهای داخلی برای حفاظت از افشاگران و تطبیق پروتکلهای ایمنی خود شوند؛ مسائلی که هزینه و پیچیدگیهای عملیاتی را به همراه دارند.
چه باید انتظار داشت؟
در کوتاهمدت، شرکتهای بزرگ هوش مصنوعی فرایندهای داخلی خود را برای انطباق با الزامات SB 53 بازنگری خواهند کرد و نهادهای ناظر ایالتی دستورالعملها و جزییات اجرایی را منتشر میکنند. در میانمدت، احتمال دارد ایالتهای دیگر قوانین مشابهی تصویب کنند و بحثهای حقوقی و فنی پیرامون مرزهای شفافیت، حفاظت از اطلاعات تجاری و مسئولیتپذیری حقوقی ادامه یابد.
سخن پایانی
SB 53 گامی مهم در مسیر تنظیم هوش مصنوعی بهنفع عموم بهشمار میآید؛ قانونی که میکوشد با رعایت ملاحظات فنی، قانونی و اجتماعی، شفافیت و پاسخگویی در صنعت هوش مصنوعی را افزایش دهد. عملکرد این قانون در عمل و نحوه تعامل شرکتها و نهادهای ناظر با آن، نقش تعیینکنندهای در شکلگیری سیاستهای آینده هوش مصنوعی خواهد داشت.