دمیس هسابیس، مدیرعامل گوگل دیپمایند، در پستی روی شبکه X از لزوم تشکیل یک نهاد تنظیمگر جدید برای نظارت بر انتشار «مدلهای مرزی» هوش مصنوعی خبر داد. او در این نوشته که با عنوان «چارچوبی برای هوش مصنوعی مرزی و طلوع عصر جدید» منتشر شد، پیشنهاد داد یک «نهاد استاندارد» شبیه به ساختار FINRA (سازمان نظارت بر صنعت مالی ایالات متحده) راهاندازی شود تا مدلهای پیشرفته را ارزیابی و بهترین روشها برای انتشار آنها را تدوین کند.
خلاصه پیشنهاد
– آزمایش و بازبینی پیش از عرضه: بر اساس طرح هسابیس، آزمایشگاههای توسعهدهنده مدلهای مرزی (Frontier Labs) در مرحله ابتدایی بهصورت داوطلبانه تا 30 روز قبل از عرضه مدل، نسخهای از آن را برای بازبینی در اختیار نهاد استاندارد قرار میدهند.
– تبدیل داوطلبی به الزام: پس از اثبات کارآمدی و استحکام پروتکل ارزیابی، این روند میتواند رسمیت یابد و عبور از آزمون نهاد استاندارد به شرط لازم برای عرضه مدل در بازار ایالات متحده تبدیل شود.
– همکاری پس از عرضه: آزمایشگاهها موظف خواهند بود در صورت وجود آسیبپذیریهای بحرانی پس از انتشار، با نهاد استاندارد برای رفع آن همکاری کنند.
– ساختار و منابع مالی: هسابیس پیشنهاد میکند نهاد مستقل باشد، با پشتیبانی دولت آمریکا اما تأمین مالی از سوی صنعت هوش مصنوعی؛ کارکنان آن شامل نمایندگان متنباز، کارشناسان فنی صنعت و در صورت نیاز برونسپاری برخی ارزیابیها به گروههای تخصصی ایمنی هوش مصنوعی خواهند بود.
زمینه و چرایی پیشنهاد
این پیشنهاد در پی بازبینیهای موردی دولت ایالات متحده از مدلهایی مانند Mythos از Anthropic و Sol از OpenAI مطرح شده است. این بررسیها با انتقاداتی مواجه شد که از نبود تخصص فنی کافی و شفافیت در تصمیمگیری درباره زمان عرضه مدلها گلایه داشتند. هدف نهاد پیشنهادی، واگذاری چنین تصمیمات حساسی به یک سازمان تخصصیتر و فنیتر است که همزمان از نوآوری پشتیبانی کند و رفتار مسئولانه را تشویق نماید.
واکنشها و چالشهای پیشرو
طرح نهاد استاندارد با استقبال و تردیدهایی روبهرو شده است. از یک سو هسابیس ادعا میکند این رویکرد فنی، منعطف و قابل تشدید در مواجهه با ریسکهای جدی است؛ از سوی دیگر برخی نگران تعارض منافع احتمالی هستند که از تأمین مالی توسطِ خود شرکتها میتواند ناشی شود. در همین راستا، مشاور هوش مصنوعی کاخ سفید و یکی از شرکای a16z، سری رام کریشنان، احتمال تشکیل یک نهاد تنظیمگر درون قوه مجریه را رد کرده و گفته «یک FDA برای هوش مصنوعی وجود نخواهد داشت.» شکلگیری نهاد بهصورت یک سازمان خودتنظیمشونده مانند FINRA میتواند راهحلی برای کاهش این مخالفتها باشد.
پیامدها و مسیر بعدی
اگر چنین نهاد استانداردی شکل گیرد، میتواند چارچوبی فنی و عملی برای مدیریت ریسکهای ناشی از مدلهای بسیار قدرتمند فراهم کند، ضمن آنکه بهدنبال حفظ فضای نوآوری نیز خواهد بود. اما موفقیت این طرح مستلزم تأمین اعتماد عمومی، تضمین استقلال فنی و شفافیت در فرآیندهای ارزیابی است. تاکنون زمانبندی مشخصی برای پیادهسازی پیشنهاد هسابیس اعلام نشده و موضوع همچنان در مرکز بحثهای سیاستگذاری، صنعت و نهادهای امنیتی قرار دارد.