گرایش رو به رشد شرکتها به استفاده از عاملهای هوش مصنوعی بدون چارچوبهای حاکمیتی؛ هشدار Gravitee درباره خطر نشت داده و ناکارآمدی عملیاتی
روری بلاندل، مدیرعامل شرکت Gravitee، هشدار میدهد که بین جاهطلبیهای هوش مصنوعی و آمادگی عملیاتی سازمانها فاصلهای جدی ایجاد شده است. به گفته او، بسیاری از کسبوکارها در حرکتی برای پیشی گرفتن از رقبا، عاملهای هوش مصنوعی (agentic AI) را بدون چارچوبهای امنیتی و فرآیندهای منظم راهاندازی میکنند و این وضعیت میتواند ظرف چند سال آینده منجر به وقوع نقصهای بزرگ دادهای شود.
وضعیت کنونی و ریسکها
– طبق گزارش «State of Agentic AI» از Gravitee، 72٪ سازمانها در حال حاضر از سیستمهای عاملمحور استفاده میکنند و 75٪ پاسخدهندگان حاکمیت (Governance) را مهمترین نگرانی خود معرفی کردهاند.
– مشکل اصلی «پراکندهسازی عاملها» (agent sprawl) است: تیمهای مختلف بهصورت جداگانه عاملهایی برای چتبات، اتوماسیون جریان کاری یا وظایف خاص ایجاد میکنند و در نتیجه نمای مشترک، نظارت مرکزی و استانداردهای امنیتی وجود ندارد.
– همین عاملها میتوانند با مدلهای زبانی بزرگ (LLMs) و ابزارهای حساس در تعامل قرار گیرند، اقداماتی انجام دهند یا به دادههای محرمانه دسترسی پیدا کنند — بدون دید واحد نسبت به عملکرد، وضعیت امنیتی یا هزینهها.
چرا این تهدید مهم است؟
بلاندل مقایسهای با دوران اولیه سرویسها و میکروسرویسها انجام میدهد: «هرچه عاملها بدون کنترل مرکزی بیشتر شوند، پایش رفتار آنها تقریباً ناممکن میشود. نتیجه میتواند کاهش سرعت نوآوری، ایجاد ناسازگاری پروتکلها، و افزایش ریسکهای امنیتی و عملیاتی باشد.»
از سوی دیگر، شرکتهای سنتی با ساختارهای امنیتی قوی ممکن است بین اجرای سختگیرانهی کنترلها و عقبماندن از رقبا در حرکت سریعتر گرفتار شوند؛ اما ورود شتابزده نیز خطرات بزرگی بههمراه دارد.
راهحل پیشنهادی: لایهی حکمرانی متمرکز و پروتکلهای امن
Gravitee پیشنهاد میدهد که چالشهای فوق با ایجاد یک لایهی حاکمیتی متمرکز و ابزارهای قابل مشاهدهسازی (observability) حل شوند. راهکار Agent Mesh از Gravitee نمونهای از این رویکرد است که با فراهمکردن یک رابط یکپارچه، دید کلی به اکوسیستم عاملها میدهد، از تکرار ظرفیتها جلوگیری میکند، اعمال سیاستهای امنیتی را ممکن میسازد و عملکرد عاملها را پایش میکند.
نقش پروتکل A2A
این راهکار بر پایهی پروتکل باز Agent-to-Agent (A2A) بنا شده است؛ پروژهای متنباز که توسط Google Cloud و بیش از 50 شرکت از جمله Gravitee توسعه یافته است. پروتکل A2A امکان تبادل ایمن اطلاعات، کشف و احراز هویت متقابل و هماهنگی اقدامات میان عاملهای مستقل را فارغ از تکنولوژی زیرساختی فراهم میکند؛ نتیجه، کاهش ریسکهای ناشی از تعاملات غیرقابل کنترل عاملهاست.
چگونه سازمانها باید پیش بروند: مدل بلوغ آمادگی هوش مصنوعی
بلاندل معتقد است که سازمانها نباید بیدرنگ به حاکمیت کامل وارد شوند؛ بلکه باید ابتدا معنای هوش مصنوعی را برای کسبوکار خود درک کنند. Gravitee یک مدل چهارمرحلهای بلوغ پیشنهاد میدهد که میتواند به ترتیب زیر خلاصه شود:
1. کشف و آزمایش: اجرای Proof of Conceptهای کوچک برای فهم نقش عاملها.
2. مقیاس کنترلشده: افزایش استفاده از عاملها در حوزههای مشخص با پایش اولیه.
3. پیادهسازی حاکمیت: استقرار سیاستهای امنیتی، احراز هویت و مشاهدهپذیری برای جلوگیری از پراکندگی ناهمگون.
4. بهینهسازی و خودتنظیمی: معماری عاملمحور کامل و قابل اندازهگیری که با ابزارهای متمرکز مدیریت و محافظت میشود.
نکته عملیاتی: پیوستگی بدون اختلال
سازمانهایی که دارای معماری چندعامله نامنظم هستند، میتوانند APIهای عامل فعلی خود را بدون بازطراحی کامل به یک شبکه مانند Agent Mesh متصل کنند. این کار معمولاً نیازمند بازه زمانی کوتاهی برای هدایت ترافیک، متمرکزسازی، و آغاز پایش عملکرد است و میتواند سرعت حرکت به سمت بلوغ هوش مصنوعی را تسریع کند.
نتیجهگیری
همزمان با رشد شتابان اشتیاق به عاملهای هوش مصنوعی، فقدان دید، حاکمیت و پروتکلهای امن میتواند به خسارات جدی از جمله نشت داده و اختلالات عملیاتی منجر شود. اتخاذ رویکرد آزمایشی و تدریجی همراه با پیادهسازی بهموقع لایههای حاکمیتی و پروتکلهای امن (مانند A2A) بهترین راه برای حفظ نوآوری در کنار کاهش ریسک است.
رویداد مرتبط
Gravitee در همکاری با The Linux Foundation یک A2A Summit برای رهبران حوزه عاملمحور هوش مصنوعی در 6 نوامبر 2025 در نیویورک برگزار میکند که شرکتهایی مانند Google، Microsoft و تحلیلگران بازار مانند Gartner در آن حضور خواهند داشت تا راهکارهای کاربردی برای مقابله با پراکندهسازی عاملها و بهرهبرداری ایمن از تصمیمسازی مبتنی بر هوش مصنوعی ارائه دهند.