فرانسیس د سوزا، مدیر عملیات Google Cloud، در حاشیه یک رویداد در لسآنجلس با تأکید بر ضرورت «امنیت از ابتدا» برای پروژههای هوش مصنوعی گفت که سازمانها باید امنیت را بهعنوان بخشی جداییناپذیر از پلتفرم و نه یک الحاقیه بعدی در نظر بگیرند. او هشدار داد که در دوره گذار فعلی — که گوگل خود نیز هنوز در آن بهسر میبرد — شرکتها اگر از ابتدا روی امنیت، حاکمیت و قابلیت حسابرسی (auditability) در پلتفرمهایشان سرمایهگذاری نکنند، با ریسکهای جدی مواجه خواهند شد.
امنیت هوش مصنوعی؛ از داده تا پلتفرم
د سوزا تصریح کرد که «هیچ استراتژی هوش مصنوعی بینیاز از استراتژی داده و استراتژی امنیتی نیست؛ این سه باید همراه هم حرکت کنند.» او بهویژه نسبت به پدیده «هوش مصنوعی سایهای» (shadow AI) هشدار داد؛ یعنی استفاده کارکنان از ابزارهای مصرفی و بیرونی بدون نظارت سازمانی که میتواند باعث نشت داده یا مصرف غیرقابلنظارت سرویسها شود. پیام اصلی او روشن است: شرکتها باید از آغاز، از پلتفرمهایشان امنیت، حاکمیت و قابلیت ردیابی بخواهند.
چندابری (multi-cloud) و یکنواختی مواضع امنیتی
در پاسخ به اینکه توصیههایش شبیه تبلیغ برای Google Cloud بهنظر میرسد، د سوزا تأکید کرد که رویکرد گوگل چندابری است و واقعیت این است که حتی شرکتهایی که «یک ابر» انتخاب کردهاند، بهواسطهی اپلیکیشنهای SaaS و شرکای تجاری اغلب در عمل از چند ابر استفاده میکنند. بنابراین لازم است مواضع امنیتی در همه ابرها و مدلها یکپارچه و همگن باشد.
تحول در منظر تهدیدات و توسعه سطح حمله
د سوزا توضیح داد که چشمانداز تهدید بهطرز بنیادینی تغییر کرده است: زمان میانی بین ورود اولیه مهاجمان و انتقال به مرحله بعدی حمله از حدود هشت ساعت به 22 ثانیه کاهش یافته است. علاوه بر این، سطح حمله فراتر از مرزهای شبکه سنتی رفته و حالا شامل مدلها، خطوط داده (data pipelines) که برای آموزش مدلها استفاده میشوند، آژنتها (agents) و پرامپتها میشود که همه نیاز به محافظت دارند.
ریسک فراموششده: آژنتها و مخازن داده متروکه
یکی از نگرانیهای خاص د سوزا، کشف مخازن داده قدیمی و فراموششده توسط آژنتهای خودکار بود؛ بهعنوان مثال سرورهای قدیمی SharePoint یا کنترلهای دسترسی مندرس که سالها مورد توجه نبودهاند اما آژنتها میتوانند آنها را پیدا و دادههای حساس را در معرض افشا قرار دهند. این موضوع نشان میدهد محافظت از داراییهای دادهای سنتی بهتنهایی کفایت نمیکند و باید روی کشف و مدیریت داراییهای فراموششده نیز کار شود.
پاسخ ماشینی به سرعت حمله: دفاع عاملمحور (agentic)
د سوزا از پیدایش دفاعی خبر داد که «AI-native و کاملاً عاملمحور» است؛ یعنی آژنتهایی که دفاع را در سرعت ماشین هدایت میکنند و انسانها نقش نظارت بر یک دفاع عاملمحور را خواهند داشت. او همچنین تأکید کرد که این مسئله فراتر از حوزه فناوری است و به سطح هیأتمدیره و تیم اجرایی رسیده است — نه فقط مشکل تیم امنیت.
کمبود نیروی انسانی و «اپیدمی باگ»
با وجود رشد نقش هوش مصنوعی در دفاع، کمبود افراد واجد صلاحیت برای هدایت این سیستمها همچنان جدی است. لیا کیسنر، مدیر امنیت اطلاعات LinkedIn، در مصاحبهای اشاره کرد که صنعت برای درک پایدار امنیت AI دستکم چند سال زمان نیاز دارد و هشدار داد که با «bug-pocalypse» یا طوفان باگها روبهرو خواهیم شد — یعنی آسیبپذیریهای ناشی از کد و مدل که سریعتر از توان تیمهای امنیتی برای رفع آنها پدیدار میشوند.
نمونههای واقعی: حملات به کلیدهای API و هزینههای ناخواسته
اخیراً گزارشهایی درباره موجی از توسعهدهندگان Google Cloud منتشر شده که صورتحسابهای پنجرقمی دریافت کردهاند، پس از آنکه درخواستهای غیرمجاز به مدلهای Gemini از طریق کلیدهای API آنها صورت گرفت. الگوی مشترک این بود که کلیدهایی که ابتدا برای سرویسهایی مانند Google Maps منتشر شده بودند، پس از گسترش دامنه استفاده توسط گوگل، بدون اطلاع صریح قابلاستفاده برای دسترسی به Gemini شدهاند.
موارد گزارششده شامل صورتحساب حدود 10,138 دلار برای یک شرکت و تقریباً 17,000 دلار استرالیا برای یک توسعهدهنده بود؛ در حالی که برخی از حسابها بهصورت خودکار توسط سیستمهای گوگل به سطوح بالاتر صورتحساب ارتقا یافته بودند، گاهی تا سقفهای 100,000 دلار، بدون رضایت صریح کاربر. گوگل پس از انتشار گزارشها، برخی بازپرداختها انجام داد اما اعلام کرده که سیاست ارتقای خودکار سطوح را تغییر نمیدهد و اولویت را جلوگیری از قطع سرویس قرار میدهد.
مشکل بازگردانی کلیدها: تاخیر در لغو دسترسی
مطالعات شرکت امنیتی Aikido نشان داد حتی اگر توسعهدهنده بلافاصله کلید آسیبدیده را حذف کند، مهاجمان ممکن است تا 23 دقیقه همچنان از آن کلید استفاده کنند زیرا لغو کلید بهتدریج در زیرساخت پخش میشود. در این پنجره زمانی، نرخ موفقیت احراز هویت میتواند در برخی دقایق بیش از 90 درصد باشد و مهاجمان فرصت کافی برای استخراج فایلها و دادههای کششده مکالمات مدلها خواهند داشت. Aikido اشاره کرده که فرمتهای جدیدتر اعتبارات گوگل (مانند کلیدهای حساب سرویس) در حدود پنج ثانیه و فرمت AQ برای Gemini در حدود یک دقیقه لغو میشوند، نشاندهنده این است که مشکل فنی قابل حل است و بیشتر پرسش درباره اولویتهاست.
جمعبندی و توصیهها برای سازمانها
پیام کلی واضح است: سازمانها باید امنیت را از برنامهریزی و طراحی تا پیادهسازی و بهرهبرداری هوش مصنوعی نهادینه کنند. اقدامهای کلیدی شامل:
– تدوین همزمان استراتژی داده و استراتژی امنیت برای هر طرح AI؛
– اعمال حاکمیت و حسابرسی در سطح پلتفرم و جلوگیری از استفاده بینظارت از ابزارهای مصرفی توسط کارکنان؛
– اجرای سیاستهای مدیریت کلید و اعتبارات با قابلیت بازگردانی سریع و نظارت لحظهای؛
– ایجاد یک موضع امنیتی یکپارچه در محیطهای چندابری؛
– سرمایهگذاری در دفاع عاملمحور و آموزش نیروی انسانی برای نظارت بر سیستمهای AI.
در حالی که توصیههای فنی و مدیریتی روشن هستند، شکاف میان آنچه پلتفرمها توصیه میکنند و سرعت سازگاری خود آنها با تهدیدات جدید هنوز وجود دارد؛ بنابراین سازمانها نباید صرفاً به وعدههای پلتفرمها بسنده کنند و باید کنترلها و نظارت مستقل را از همان ابتدا برقرار نمایند.