بنیانگذار آنتروپیک: آنتروپیک هرگز خواهان ممنوعیت انتشار وزن مدلها نبوده است
داریو آمودئی، بنیانگذار و مدیرعامل آنتروپیک، روز دوشنبه به شایعاتی در صنعت واکنش نشان داد که گویا شرکتش از تلاشهای دولت آمریکا برای ممنوعیت مدلهای «open-weight» چینی یا حتی ممنوعیت کلی انتشار وزن مدلها پشتیبانی میکند. او در بلاگی نوشت: «هرکسی که نوشتههای قبلی من را خوانده باشد باید بداند که من چنین ممنوعیتهایی را مفید نمیدانم، اما برای رفع هر گونه ابهام روشن میکنم: آنتروپیک هرگز خواهان ممنوعیت مدلهای دارای وزن منتشرشده نبوده است.» (تاکید از سوی آمودئی بود.)
این واکنش پس از آن مطرح شد که جنسن هوانگ، مؤسس و مدیرعامل انویدیا، در اولین پست خود در شبکه X یک نامه سرگشاده را منتشر کرد؛ در این نامه انویدیا همراه با فهرستی از شرکتهای بزرگ حوزه هوش مصنوعی از جمله Hugging Face، متا، مایکروسافت و Mistral از سیاستگذاران خواستند از اعمال «محدودیتهای زودهنگام و کلی» بر مدلهای دارای وزن منتشرشده خودداری کنند. هرچند آن نامه بهطور مستقیم چین را نام نمیبرد، محل بحث در صنعت حول اتهامات سرقت مالکیت فکری از سوی برخی آزمایشگاههای چینی بوده است.
آمودئی در پست خود تفاوت مهمی میان تهدید ناشی از برخی دولتهای استبدادی و ماهیت مدلهای دارای وزن منتشرشده قائل شد. او نوشت که مدلهایی که قابلیتهای خطرناک ندارند میتوانند «مصرف عمومی» باشند: این مدلها به جز هزینههای محاسباتی اجرای آنها، هزینه قابلتوجه دیگری ندارند و میتوانند برای کسبوکارها، توسعهدهندگان و پژوهشگران ارزشآفرین باشند. به عبارت دیگر، انتشار وزن مدلهای بیخطر میتواند نوآوری و دسترسی به ابزارهای هوش مصنوعی را تسهیل کند.
همزمان آمودئی نگرانیهای جدیتری هم مطرح کرد: او نگران است که دولتهای استبدادی مدلهایی بسیار قدرتمندتر از نمونههای غربی بسازند تا به «برتری نظامی دائمی» برسند یا از هوش مصنوعی برای سرکوب شهروندان استفاده کنند. او گفت که حزب کمونیست چین (CCP) تنها بازیگر مورد نگرانی نیست، اما در میان دولتهای استبدادی «توانمندترین» است. آمودئی همچنین هشدار داد که خطرات ناشی از هوش مصنوعی محدود به حملات سایبری نیست و «حملات زیستی» نیز نگرانی واقعی است؛ در چنین سناریوهایی مدلهای دارای وزن منتشرشده بهدلیل دشواری در اعمال سدهای حفاظتی و نظارت بر استفاده، خطرناکتر قلمداد میشوند. او به گزارشی از مؤسسه امنیتی AI بریتانیا اشاره کرد که معتقد است پس از انتشار وزنها، امکان پس گرفتن آنها وجود ندارد.
برای مقابله با تهدیدهای مرتبط با چین، آمودئی شماری از اقدامات پیشنهادی را مطرح کرد: محدود کردن دسترسی چین به تراشههای بسیار قدرتمند (که سیاستی طولانیمدت از سوی آمریکا بوده است)، و پیگیری جدیتر رویههایی مانند «distillation» — فرآیندی که طی آن یک مدل جدید با آزمون و پرسش از مدل دیگر سعی در بازتولید رفتار و دانش آن دارد — که ممکن است به سرقت دانشی منجر شود. واشنگتن نیز قبلاً تهدید به اعمال تحریم در صورت تشخیص سرقت مالکیت فکری کرده است.
در نهایت آمودئی از ایده تشکیل یک سازمان بینالمللی برای آزمون ایمنی مدلها حمایت کرد، مشروط بر اینکه این سازوکار جهانی باشد و حتی کشورهایی مانند چین به آن بپیوندند. او نوشت که این پیشنهاد بهتدریج دارد به اجماع نزدیک میشود و از حرکتهای اخیر دولت ترامپ در این مسیر ابراز خرسندی کرد. به باور او، همکاری محدود میان کشورها برای جلوگیری از توسعه سلاحهای زیستی مبتنی بر هوش مصنوعی ممکن است ممکن و به نفع همه باشد.
پیام اصلی این اظهارات برای سیاستگذاران و فعالان صنعت روشن است: لازم است تعادلی میان حمایت از بازبودن مدلهای مفید برای توسعه و پژوهش و اتخاذ تدابیر امنیتی جدی با هدف جلوگیری از سوءاستفادههای دولتهای خطرناک برقرار شود؛ و برای دستیابی به این تعادل، همکاری بینالمللی و سازوکارهای آزمون و نظارت جهانی ضروری به نظر میرسند.