هوش مصنوعی پیشرفته سیسکو: ۲۲ برابر بیشتر مستعد رفتارهای غیرمنتظره

تهدیدهای جدید سایبری: مدل‌های زبانی بزرگ (LLMs) همچون سلاح‌های دیجیتال

با پیشرفت سریع تکنولوژی، مدل‌های زبانی بزرگ (LLMs) به ابزارهای قدرتمندی برای تسریع حملات سایبری تبدیل شده‌اند، به‌گونه‌ای که روسای امنیت اطلاعات (CISOs) مجبور به بازنگری در استراتژی‌های امنیتی خود شده‌اند. این مدل‌ها، همانند FraudGPT، GhostGPT و DarkGPT، به قیمت‌هایی مقرون‌به‌صرفه مانند ۷۵ دلار در ماه قابل دسترسی هستند و به‌طور خاص برای اهداف مخربی مانند فیشینگ، تولید آسیب‌پذیری، اسکن امنیتی، و حتی اعتبارسنجی کارت‌های اعتباری طراحی شده‌اند.

مدل‌های زبانی به‌عنوان ابزارهای سایبری پیشرفته

این مدل‌های زبانی نه تنها قابلیت اتوماسیون عملیات شناسایی و جعل هویت را دارند، بلکه می‌توانند از تشخیص‌های زمان‌واقعی فرار کنند و حملات مهندسی اجتماعی را در مقیاس بزرگ تسریع کنند. با تبدیل‌شدن به ابزارهای سایبری، این مدل‌ها اکنون در بازارهای سیاه و وب تاریک به فروش می‌رسند و حتی خدماتی مشابه اپلیکیشن‌های SaaS (نرم‌افزار به‌عنوان سرویس) مانند داشبوردها، APIها، به‌روزرسانی‌های منظم و پشتیبانی مشتری ارائه می‌کنند.

پیامدهای مخرب اصلاح و تنظیم مدل‌ها

مطالعات نشان می‌دهند که تنظیم دقیق مدل‌های زبانی برای پاسخ‌دهی بهتر به زمینه‌های مختلف، اگرچه بهبود عملکرد را به‌دنبال دارد، اما خطرات امنیتی بسیاری به همراه دارد. طبق گزارش امنیت هوش مصنوعی شرکت سیسکو، مدل‌های تنظیم‌شده ۲۲ برابر بیشتر از مدل‌های پایه احتمال تولید خروجی‌های مخرب دارند. این فرآیند تنظیم باعث کاهش کنترل‌های ایمنی داخلی مدل‌ها شده و حملاتی مانند تزریق فرامین (Prompt Injection) و تخریب داده‌ها را تسهیل می‌کند.

راهکارهای جدید برای مقابله با افزایش تهدیدها

مطالعات نشان داده‌اند که حملات سایبری، به دلیل پیچیدگی روزافزون مدل‌های زبانی تنظیم‌شده، به‌طور چشمگیری افزایش یافته‌اند. برای مثال، میزان موفقیت حملات به مدل‌های تنظیم‌شده در مقایسه با مدل‌های پایه سه برابر شده و تولید خروجی‌های مخرب تا ۲۲۰۰ درصد افزایش یافته است. این مسئله تأکید می‌کند که تنظیم دقیق مدل‌ها، هرچند برای بهبود عملکرد ضروری است، به‌شدت سطح حملات را افزایش می‌دهد.

حملات به داده‌های آموزشی و نفوذ به مدل‌ها

نتایج بررسی‌های سیسکو نشان می‌دهند که با هزینه‌ای کم، مانند ۶۰ دلار، مهاجمان می‌توانند داده‌های آموزشی مدل‌ها را مسموم کرده و عملکرد کلی آنها را تغییر دهند. تکنیک‌هایی نظیر «سم‌پاشی داده» و «حملات پیش‌دستی» با سوءاستفاده از منابع داده‌های عمومی، مانند ویرایش‌های ویکی‌پدیا در زمان آرشیو، به‌طور قابل توجهی می‌توانند داده‌های آموزشی را تحریف کنند.

تهدیدهای جدید برای صنایع حساس

صنایعی مانند سلامت، امور مالی و حقوق که به شفافیت قانونی و ایمنی داده‌های بیماران متکی هستند، بیشتر در معرض خطرات ناشی از مدل‌های زبانی تنظیم‌شده قرار دارند. بررسی‌ها نشان داده‌اند که این مدل‌ها آسیب‌پذیری‌های سیستماتیکی را در حفاظت از داده‌ها ایجاد کرده و تلاش‌هایی که قبلا ناموفق بودند، با احتمال بسیار بیشتری به موفقیت می‌رسند.

نتیجه‌گیری: نیاز به روش‌های امنیتی پیشرفته

با افزایش تهدیدهای ناشی از مدل‌های زبانی بزرگ، ضروری است که سازمان‌ها و رهبران امنیت سایبری راهکارهایی نوین را اتخاذ کنند. از ایجاد لایه‌های امنیتی مستقل گرفته تا آزمایش‌های پیشرفته برای مقابله با حملات، محافظت از مدل‌ها اکنون یک اولویت حیاتی است. این مدل‌ها به‌طور فزاینده‌ای از ابزارهای کاربردی به زیرساخت‌هایی آسیب‌پذیر تبدیل شده‌اند که نیازمند سیاست‌های امنیتی هوشمندتر و بروزتر هستند.

برای اطلاع از جزئیات بیشتر و آخرین اخبار دنیای هوش مصنوعی، به بخش اخبار سایت بینا ویرا سر بزنید و از جدیدترین اطلاعات این حوزه بهره‌مند شوید.

تبدیل صوت به متن فارسی