عنوان: هشدار Cato Networks: APT28 با بدافزار مبتنی بر مدلهای زبانی بزرگ (LLM) علیه اوکراین فعال شده است — ریسک فوری برای سازمانها
گزارش جدید Cato Networks نشان میدهد که گروه هکری وابسته به دولت روسیه با نام APT28 نسخهای از بدافزار مبتنی بر مدلهای زبانی بزرگ (LLM) را بهصورت عملیاتی علیه اوکراین بهکار گرفته است. این بدافزار که تحت نام LAMEHUG مستندسازی شده، نشان میدهد تهدیدهای هوش مصنوعی و حملات مبتنی بر LLM از نظر قابلیت اجرا و مقیاسپذیری وارد فاز عملیاتی شدهاند و اکنون هر سازمانی را تهدید میکنند.
خلاصه اتفاق
– LAMEHUG اولین نمونه تأییدشده بدافزار LLM است که در محیط واقعی دیده شده و به APT28 نسبت داده شده است.
– مهاجمان با استفاده از توکنهای به سرقت رفته سرویس Hugging Face به مدلهای AI متصل شده و دستورات همروند AI را برای جمعآوری اطلاعات و سرقت مدارک اجرا میکنند.
– تحویل بدافزار عمدتاً از طریق ایمیلهای فیشینگ با پیوستهای ZIP حاوی فایلهای اجرایی (PyInstaller) انجام میشود. قربانی در حین اجرا یک فایل PDF رسمینما را مشاهده میکند که توجه او را منحرف میسازد در حالی که بدافزار بهصورت پنهان عملیات جمعآوری و استخراج داده را انجام میدهد.
چگونه LAMEHUG کار میکند
مطالعه Cato نشان میدهد LAMEHUG از حدود 270 توکن سرقتشده Hugging Face برای پرسش و پاسخ با مدل Qwen2.5-Coder-32B-Instruct استفاده میکند. طراحی مهندسیشده بدافزار دو هدف همزمان دارد: نمایش محتوای فریبنده (مانند پیدیافهای رسمی یا تصاویر تحریکآمیز) برای منحرف کردن کاربر و اجرای دستورات تولیدشده توسط LLM برای شناسایی سیستمها، استخراج اسناد و ارسال اطلاعات به سرورها.
آزمایش عملی و کاهشِ سد تخصصی
ویتالیا سیمونوویچ، پژوهشگر امنیت در Cato Networks، در یک اثباتمفهومی (PoC) نشان داد که میتوان در کمتر از شش ساعت هر ابزار هوش مصنوعی سازمانی را به پلتفرمی برای توسعه بدافزار تبدیل کرد — بدون نیاز به تجربه کدنویسی بدافزار. او با تکنیکی که «Immersive World» نامیده، از روایتسازی تدریجی برای فریب مدلهای زبانی استفاده کرد؛ بهطوریکه مدلها گمان میکردند در حال نوشتن داستان یا سناریوی آموزشی هستند و در عمل کد سرقت رمزعبور تولید شد. این نشان میدهد که کنترلهای موجود مدلها در برابر داستانسرایی طولانی و مهندسی روایت آسیبپذیرند.
بازار زیرزمینی و دسترسی آسان
Cato همچنین فعالیت پلتفرمهای زیرزمینی را گزارش کرده که نسخههای بدون محدودیت و بدون گاردریل از مدلهای LLM را با قیمتهایی مانند 250 دلار در ماه عرضه میکنند (نمونههایی که سیمونوویچ با نامهایی مانند Xanthrox AI و Nytheon AI ذکر کرده است). این سرویسها با فرآیندهای پرداخت، پشتیبانی و آپدیت منظم، زیرساخت عملیاتی برای حملات مبتنی بر AI فراهم میکنند.
پیامدها برای سازمانها
– استفاده گسترده سازمانی از مدلهای LLM (رشد سریع پذیرش در سالهای اخیر) ریسک تبدیل ابزارهای بهرهوری به بردارهای حمله را افزایش میدهد.
– مهارت فنی بالا دیگر مانع مؤثری نیست؛ مهاجمان با خلاقیت و دسترسی به سرویسهای زیرزمینی قادر به تولید بدافزار هستند.
– کنترلهای سنتی شناسایی تهدید در شبکه ممکن است قادر به شناسایی تعاملات مخرب با APIهای AI یا سوءاستفاده از روایتسازی LLM نباشند.
توصیههای فنی و راهبردی برای کاهش ریسک
– مدیریت توکن/کلید: دورهایسازی و روتیشن توکنهای API، محدودسازی امتیازات کلیدها (least privilege)، و مانیتورینگ مصرف غیرمعمول توکن.
– فهرستسفید و محدودسازی مدلها: اجازه اجرا و اتصال تنها به مدلها و سرویسهای تأییدشده و دارای گاردریل امنیتی.
– بررسی و تحلیل رفتار: پایش الگوهای ترافیکی API، نرخ درخواست، و الگوهای پرسشگری که میتوانند نشاندهنده سوءاستفاده از مدل باشند.
– آموزش و آمادگی کارکنان: آموزش ضد فیشینگ و آگاهیبخشی درباره محتوای فریبنده و روشهای مهندسی اجتماعی مبتنی بر AI.
– اعتبارسنجی توسعه و کنترلهای داخلی: بازبینی کد تولیدشده خودکار توسط مدلها قبل از اجرا، اعمال sandboxing برای اجرای ایمن.
– همکاری با تأمینکنندگان مدل: درخواست شفافیت در سیاستهای امنیتی، مکانیزمهای تشخیص سوءاستفاده و واکنش سریع به گزارشهای آسیبپذیری.
نتیجهگیری
نمونه LAMEHUG و شواهد بازار زیرزمینی نشان میدهد تهدیدات مبتنی بر هوش مصنوعی از مرحله آزمایشی عبور کرده و به تهدیدات عملیاتی تبدیل شدهاند. سازمانها و رهبران امنیت اطلاعات باید فرض را بر این قرار دهند که ابزارهای AI میتوانند قابل سواستفاده شوند و اقدامات دفاعی ویژهای برای حفاظت از توکنها، کنترل دسترسی مدلها و تقویت تشخیص رفتاری اتخاذ کنند. زمان اقدام جدی فرا رسیده است تا بهرهوری ناشی از هوش مصنوعی بدون افزایش سطح ریسک امنیتی ادامه یابد.