GLM-5.2؛ وقتی یک مدل متنباز چینی به مرز توانمندیهای رهبران صنعت نزدیک میشود — و نگرانیهای امنیتی افزایش مییابد
گزارشی تازه از سازمان غیرانتفاعی امنیت هوش مصنوعی SaferAI نشان میدهد که GLM-5.2، مدل متنباز و دارای وزنهای قابل دانلود شرکت چینی Z.ai، در تواناییهای مرتبط با حوزههای سایبری و زیستفناوری تنها چند ماه از مدلهای پیشرفتهای مثل GPT-5.5 اوپنایآی و Claude Opus 4.7 شرکت Anthropic عقب است. با این حال، شکاف بین «مرز توانایی» و «مرز ایمنی» در حال بزرگتر شدن است.
نتایج و نکات کلیدی گزارش
– SaferAI با استفاده از API عمومی Z.ai آزمایشهایی روی GLM-5.2 انجام داد و دریافت که این مدل هیچیک از درخواستهای مرتبط با حملات سایبری یا کاربردهای دوگانه زیستفناوری را رد نکرد.
– در مقایسه، Claude Opus 4.7 بهقدری ممانعت نشان داد که SaferAI نتوانست تست CyberGym را روی آن تکمیل کند. (CyberGym یک بنچمارک برای ارزیابی قابلیتهای امنیت سایبری است.)
– این تفاوت نشان میدهد که مدلهای متنبازی که وزنهایشان قابل دانلود است، پس از نصب روی سختافزار شخصی میتوانند هرگونه محافظتی را که سازنده در API میگذاشت دور بزنند یا حذف شوند.
چرا مسئله جدی است؟
مدلهای Frontier مانند OpenAI و Anthropic معمولاً از مکانیزمهایی مثل طبقهبندیکنندهها، آموزش برای امتناع (refusal training) و کنترلهای سطح API برای کاهش تولید محتوای خطرناک استفاده میکنند. اما همین محافظتها در برابر مدلهایی که وزنهایشان آزادانه منتشر میشود کاربردی ندارد؛ چون هر کس میتواند وزنها را دانلود، مدل را fine-tune کند یا پیامهای سیستمی را تغییر دهد. پژوهشهای گروههایی مانند Far.ai نیز نشان دادهاند که «جِیلبریکهای جهانی» (الگوهای قابل استفادهٔ مکرر برای دورزدن محافظها) در مدلهای پیشرفتهای مانند Grok 4.5 و Gemini 3.1 Pro امکانپذیر است.
راهکارهای فنی و محدودیتها
یکی از پیشنهادها «فیلتر کردن دادههای پیشآموزش» است: حذف محتوای سایبری مخرب از دیتاست پیشآموزش تا مدل نتواند دانش تهاجمی را تولید کند. برخی مطالعات نشان میدهند که این روش ممکن است در کاهش دانش زیستفناوری خطرناک موثر باشد بدون افت کلی در عملکرد مدل. اما در حوزه امنیت سایبری این روش کمتر عملی است، چون مدلهایی که در کدنویسی خوباند اغلب همزمان قابلیتهای هک و آزمون نفوذ قدرتمندی دارند — و بازار نیز فشار زیادی برای تقویت قابلیتهای کدنویسی وارد میکند.
رویکردهای متداول دیگر شامل: ارزیابیهای ایمنی پیش از عرضه، انتشار بررسیهای ریسک، محدودسازی نوع کمکهای سایبری (برای مثال Opus 5 میتواند در کد منبع بدون کامپایل آسیبپذیریها را جستوجو کند اما برای نرمافزارهای کامپایلشده محدود است) و در مواردی خودداری از انتشار وزنها است.
موضع Z.ai و واکنشها
SaferAI میگوید Z.ai چارچوب ایمنی، تعهدات تست پیش از عرضه یا ارزیابی ریسک GLM-5.2 را منتشر نکرده است. تماسهای رسانهای برای دریافت اظهارنظر از سوی Z.ai پاسخی نداشتهاند. در عین حال، مقامهای چینی و ناظران سیاستی بر لزوم کنترل انسانی و قوانین داخلی تاکید کردهاند؛ رییسجمهور شی جینپینگ در کنفرانس جهانی AI اخیر به اهمیت مدلهای متنباز اشاره و بر ضرورت «حفظ کنترل انسانی» تاکید کرد.
استدلال موافقان وزنهای متنباز
حامیان آزادسازی وزنها استدلال میکنند که دسترسی به وزنها به شرکتها و تیمهای دفاعی کمک میکند تا خود را در برابر تهدیدات محافظت کنند؛ نمونهای که ذکر شده، استفاده Hugging Face از GLM-5.2 برای مقابله با رخنهسازی است. با این حال منتقدان مانند Henry Papadatos از SaferAI هشدار میدهند که این مزایا نباید بهانهای برای انتشار آزاد قابلیتهای خطرناک شود.
پیام نهایی برای سیاستگذاران و صنعت
این گزارش بار دیگر روشن میکند که ارزیابی ریسک هوش مصنوعی نباید فقط بر سنجش تواناییها متمرکز باشد؛ وضعیت مکانیزمهای کاهش خطر (Mitigations) و شفافیت در فرایندهای آزمایش و انتشار باید همسنگ بررسی تواناییها باشند. لازم است سیاستگذاران، توسعهدهندگان و جامعه بینالمللی استانداردهایی برای شفافیت، ارزیابیهای مستقل پیش از عرضه و قواعدی برای مدیریت انتشار وزنها تعریف کنند تا هم از نوآوری و هم از امنیت عمومی محافظت شود.