مشکلات امنیتی ناشی از استفاده غیرمجاز از ابزارهای هوش مصنوعی: گزارشی نگرانکننده از IBM
طبق تازهترین گزارش IBM تحت عنوان «هزینه یک نقض داده در سال 2025»، استفاده غیرمجاز از ابزارهای هوش مصنوعی در سازمانها به یک مشکل مهم و نگرانکننده تبدیل شده است. این گزارش که به همکاری مؤسسه پونیمون تهیه شده، نشان میدهد نقض حریم خصوصی مرتبط با کارمندان و ابزارهای هوش مصنوعی هزینهای معادل 4.63 میلیون دلار به سازمانها تحمیل میکند که این رقم بهطور متوسط 16 درصد بیشتر از میانگین جهانی 4.44 میلیون دلار است.
این تحقیقات بر اساس 3470 مصاحبه با 600 سازمان که دچار نقض امنیت شدهاند، نشاندهنده این واقعیت است که پذیرش سریع هوش مصنوعی در سازمانها، بهویژه در زمینه امنیت سایبری، هنوز نادیدهگرفته شده است. در حالی که تنها 13 درصد از سازمانها وقوع حوادث امنیتی مرتبط با هوش مصنوعی را گزارش کردهاند، 97 درصد از آنها فاقد کنترلهای لازم برای دسترسی به ابزارهای هوش مصنوعی بودند.
به گفته سویا ویسوان، معاون تولیدات امنیتی و پرتال شرکت IBM، «این دادهها نشان میدهد که شکاف میان پذیرش هوش مصنوعی و نظارت بر آن وجود دارد و مجرمان سایبری شروع به سوءاستفاده از آن کردهاند». یکی از بزرگترین نقاط ضعف امنیت هوش مصنوعی، فقدان سیاستهای مدیریتی مناسب است، بهطوری که 63 درصد از سازمانهای نقضشده نه تنها از سیاستهای حاکمیتی برای هوش مصنوعی محروم هستند، بلکه همچنان در حال توسعه آنها هستند.
گزارش همچنین نشان میدهد 60 درصد از حوادث امنیتی مرتبط با هوش مصنوعی منجر به افشای دادهها شده و 31 درصد از آنها اختلالاتی در عملیات روزانه سازمانها ایجاد کرده است. دادههای شناسایی شده از مشتریان، در 65 درصد از حوادث «هوش مصنوعی مخفی» به خطر افتادهاند که بهطرز قابلتوجهی بالاتر از میانگین جهانی 53 درصد است.
درخصوص جنبههای امنیتی هوش مصنوعی، مشکل استفاده از LLM (مدلهای زبانی بزرگ) مسألهای نگرانکننده محسوب میشود. بهعنوان مثال، مدلی مانند FraudGPT یا DarkGPT، به قیمتهای پایین بهطور خاص برای استراتژیهای حمله مانند فیشینگ و تولید کد مخرب طراحی شده است.
علیرغم اینکه سازمانها به اهمیت استفاده از هوش مصنوعی و اتوماسیون در بهبود فرآیندهای امنیتی آگاه هستند، تنها 32 درصد از آنها از هوش مصنوعی بهطور گسترده استفاده میکنند. بر اساس این گزارش، تیمهای امنیتی که بهطور گسترده از هوش مصنوعی و اتوماسیون استفاده میکنند، بهطور میانگین 1.9 میلیون دلار از هزینههای نقض دادههای خود کاهش داده و زمان شناسایی و مقابله با نقضها را تا 80 روز کاهش میدهند.
در مواجهه با تهدیدات نوین، ضروری است سازمانها نهتنها به توسعه سیاستهای مؤثر برای مدیریت ریسکهای مرتبط با هوش مصنوعی بپردازند، بلکه باید با سرمایهگذاری در امنیت یکپارچه و نرمافزارهای مدیریتی، هماهنگی بیشتری میان واحدهای مختلف سازمان برقرار کنند.
این گزارش به وضوح حاکی از این واقعیت است که توانمندیهای هوش مصنوعی میتواند در مبارزه با تهدیدات سایبری مؤثر باشد، اما نادیدهگرفتن ریسکهای آن میتواند عواقب جدی به همراه داشته باشد. سازمانهایی که در این راستا حرکت میکنند، نهتنها از تهدیدات موجود مصون میمانند، بلکه میتوانند در دنیای جدید و چالشبرانگیز امنیت سایبری بقای خود را تضمین کنند.