اتحاد تازه تأسیس Open Secure AI Alliance (OSAA) با رهبری انویدیا و بیش از 120 شرکت عضو، گروه کاری جدیدی با نام Shared AI Findings Exchange (SAFE) راهاندازی کرده که هماکنون پیشنویسهایی برای نظرعمومی منتشر کرده است. مدیریت این پیشنویسها برعهده لینوکس فاندیشن قرار دارد و اعضا هنگام گردهمایی در کنفرانس امنیت سایبری Black Hat در لاسوگاس روی آنها کار کردند.
SAFE در مراحل اولیه راهنماییهایی را پیشنهاد داده که الزاماً انقلابآفرین نیستند، اما روی موضوعات حیاتی تمرکز دارند: روشهای گزارش محرمانه حوادث امنیتی مرتبط با هوش مصنوعی، اطلاعرسانی به افراد و سازمانهای درگیر، و انجام تحلیلهای «بدون انگزدن» (blame-free) تا تجربهها به صورت جمعی آموزشی شوند. هدف کلی، تسهیم دانش و کاهش تکرار خطاها در اکوسیستم هوش مصنوعی است.
در کنار تدوین رویهها، اعضای OSAA قطعات متنباز فناورانه خود را نیز فهرست و در صورت نیاز به اشتراک میگذارند. این همکاری میتواند به مرور تبدیل به مجموعهای از ابزارها و استانداردهای متنباز برای ایمنسازی عاملهای هوشمند سازمانی یا دفاع در برابر حملات «عاملهای» مخرب شود؛ موضوعی که نمونههایی مانند گزارشهای مربوط به دسترسی یک مدل به پلتفرمهای عمومی را یادآوری میکند. (لازم به ذکر است که Hugging Face نیز یکی از اعضای این اتحاد است.)
نمونههایی از مشارکتهای اعلامشده اعضا:
– انویدیا: ارائه خانوادهای از مدلهای متنباز و اسکنر آسیبپذیری مدلهای زبانی بزرگ به نام Garak.
– Okta: کار روی فناوری هویت برای عاملها (agent identity).
– Red Hat: توسعه راهکارهای حاکمیت عاملها (agent governance).
– آمازون: مشارکت با ابزار ساخت عامل متنباز Strands Agents و زبان مجوزدهی Cedar.
در فهرست اعضا نامهای بزرگی مانند Adobe، BlackRock، Cisco، Intel، Microsoft و Visa دیده میشود، اما غیبتهایی نیز جلبتوجه میکند؛ از جمله Anthropic، OpenAI و Google که تاکنون به گروه نپیوستهاند. جالب اینجاست که هر دو شرکت OpenAI و Google نامهای را که زمینهساز شکلگیری این گروه شد امضا کرده بودند؛ نامهای که هفته گذشته منتشر شد و از کاخ سفید خواست از تلاشهای اوپنسورس در حوزه هوش مصنوعی حمایت کند و مسیرهای باز توسعه را مسدود نکند. این نامه با حمایت انویدیا و امضای بیش از 200 شرکت فناوری منتشر شد.
زمینه شکلگیری سریع این اتحاد را باید در بستر رقابتهای ژئوپلیتیک و نگرانیها درباره مدلهای «با وزن باز» (open-weight models) جستوجو کرد؛ خبرهایی که اخیراً درباره احتمال ممنوعیت مدلهای متنباز چینی در آمریکا مطرح شد و صنعت را به واکنش واداشت. در هر حال، اقدام سریع این کنسرسیوم قدرتمند میتواند برای اکوسیستم اوپنایآی در آمریکا مفید باشد و به گفته برخی فعالان حوزه، گسترش باز بودن و شفافیت میتواند یکی از مسیرهای مؤثر امنیت و ایمنی هوش مصنوعی باشد.
OSAA و گروه SAFE در مرحلهای قرار دارند که میتوانند با ترکیب رویهها و ابزارهای متنباز، چارچوبی عملی و مشترک برای مقابله با تهدیدهای نوظهور هوش مصنوعی ارائه دهند. اکنون باید دید آیا غایبان بزرگ این حرکت — بهویژه OpenAI و Google — در آینده به این همکاری خواهند پیوست یا نه؛ اما تا آن زمان، این ابتکار نشاندهنده تلاش سریع و هماهنگ صنعت برای مواجهه با چالشهای امنیتی دوران هوش مصنوعی است.