افزایش استفاده از هوش مصنوعی در سازمان‌ها و چالش‌های امنیتی آن
در دنیای فناوری، پیشرفت‌های چشمگیری در زمینه هوش مصنوعی، به ویژه هوش مصنوعی تولیدی، مشاهده می‌شود. با گذشت ۲.۵ سال از راه‌اندازی ChatGPT، تغییرات در این حوزه تنها آغاز شده و طبق یک نظرسنجی اخیر از Cloudera، ۹۶٪ از مدیران IT و داده‌ها در سال جاری قصد دارند استفاده از عوامل هوش مصنوعی را افزایش دهند. اما این روند ناگزیر با چالش‌های امنیتی جدیدی روبه‌رو است؛ به‌خصوص آن‌گونه که عوامل هوش مصنوعی قادر به انجام فعالیت‌ها به‌صورت خودمختار با نظارت انسانی حداقلی هستند.
Cyata، یک استارتاپ امنیت سایبری مستقر در تل‌آویو، به‌منظور مقابله با این چالش‌ها تأسیس شده و اکنون به‌طور رسمی وارد میدان شده تا به سازمان‌ها نشان دهد چگونه می‌توانند از این تغییرات بهره‌برداری کنند. این استارتاپ با پشتیبانی ۸.۵ میلیون دلار سرمایه اولیه از سوی TLV Partners و سرمایه‌گذاران معروف دیگر تأسیس شده است.
شاهر تال، یکی از بنیان‌گذاران و مدیرعامل Cyata، در گفت‌وگویی با VentureBeat اظهار داشت: “این یک تغییر پارادایمی است. مانند انتقال به فضای ابری، ما در حال مشاهده تغییرات نرم‌افزاری در برابر چشمان‌مان هستیم. سازمان‌ها نیازمند زیرساخت‌های جدیدی برای مدیریت سرعت و خودمختاری این سیستم‌ها هستند.”
پلتفرم Cyata یک راهکار منحصر به فرد برای مدیریت آنچه که به عنوان “هویت‌های عاملی” شناخته می‌شوند، ارائه می‌دهد. این هویت‌ها قابلیت انجام کارها به‌صورت خودمختار را دارند و Cyata به‌طور خودکار محیط‌های ابری و SaaS را اسکن کرده تا تمام عوامل هوش مصنوعی فعال را شناسایی کند و برای هر یک یک مالک انسانی تعیین کند.
Cyata علاوه بر ردیابی رفتار عوامل، قابلیت سؤال از این عوامل به زبان طبیعی را نیز دارد. به عنوان مثال، هنگامی که یک عامل قصد دارد مأموریتی را انجام دهد، Cyata می‌تواند از آن بخواهد توضیحاتی برای این اقدام ارائه دهد که مورد ارزیابی و تحلیل قرار می‌گیرد.
این پلتفرم توانایی شناسایی دسترسی‌های پرخطر و نگهداری یک پایگاه داده کامل از فعالیت‌ها را دارد. با این وجود، Chal به این نکته اشاره کرد که Cyata همچنین برای مقابله با عوامل مخرب که توسط هکرها تولید می‌شوند، آمادگی دارد و سیستم آنها به‌گونه‌ای طراحی شده که ریسک هر درخواست را ارزیابی و تجزیه و تحلیل می‌کند.
Cyata به سرعت به بازار می‌آید و قابلیت همکاری با پلتفرم‌های رایج مانند Microsoft Copilot و Salesforce را دارد. با توجه به نیاز روزافزون سازمان‌ها به مدیریت مؤثر عوامل هوش مصنوعی، Cyata در حال فراهم کردن امکاناتی است که به تعادل بین سیستم‌های هویتی موجود و نیروی کار جدید هوش مصنوعی کمک کند.
به طور کلی، استفاده رو به رشد از عوامل هوش مصنوعی تنها به تیم‌های فنی محدود نمی‌شود و دیگر بخش‌های سازمان نیز از این ابزارها بهره‌مند می‌شوند. Cyata با تیمی متشکل از veter ان امنیت سایبری در حال شکل‌گیری به‌عنوان یک رهبر در این زمینه شناخته می‌شود. این شرکت در کنفرانس Black Hat تحقیقاتی جدید ارائه خواهد داد و در حال توسعه برنامه‌ای برای همکاری با فروشندگان هویتی و پلتفرم‌های سازمانی است تا اثرگذاری بیشتری در این حوزه داشته باشد.