در دنیای امروز، امنیت هوش مصنوعی به یکی از چالش‌های جدی در حوزه فناوری تبدیل شده است. با توجه به گزارشات جدید، تهدیدات مرحله استنباط (inference) مدل‌های هوش مصنوعی، بی‌قرارکننده‌ترین نقاط آسیب‌پذیری برای سازمان‌ها محسوب می‌شوند. در این راستا، همکاری‌های جدید میان Databricks Ventures و Noma Security به میدان آمده است تا این چالش‌ها را به‌طور مؤثر مدیریت کنند.
این دو شرکت با حمایت مالی ۳۲ میلیون دلاری از سری A به رهبری Ballistic Ventures و Glilot Capital، تلاش دارند تا نقاط ضعف امنیتی که مانع از پیاده‌سازی مؤثر هوش مصنوعی در سازمان‌ها می‌شود را برطرف سازند. نایو براون، مدیرعامل Noma Security، در گفتگویی اختصاصی بیان کرد: «دلیل اصلی تردید سازمان‌ها در پیاده‌سازی کامل هوش مصنوعی، مسائل امنیتی است. ما با همکاری Databricks، تحلیل‌های تهدید بلادرنگ، حفاظت‌های پیشرفته در لایه استنباط و تیم‌های قرمز فعال هوش مصنوعی را به روند کاری سازمان‌ها وارد می‌کنیم تا آن‌ها بتوانند به‌طور ایمن و با اطمینان، به جاه‌طلبی‌های هوش مصنوعی خود دست یابند.»
حوزه امنیت سایبری سنتی اکثر تمرکز خود را بر روی دفاع در مرزها می‌گذارد و به‌طور خطرناکی آسیب‌پذیری‌های مربوط به مرحله استنباط هوش مصنوعی را نادیده می‌گیرد. اندرو فرگوسن، معاون Databricks Ventures، در گفتگو با VentureBeat به این نکته crucial تأکید کرد که امنیت در لایه استنباط برای مشتریان از اهمیت ویژه‌ای برخوردار است و Noma در این زمینه ظرفیت‌های منحصربه‌فردی را ارائه می‌دهد.
براون همچنین به نیاز حیاتی برای حفاظت بلادرنگ در مرحله استنباط اشاره کرد و تأکید کرد که باید تدابیر دقیقی از جمله نظارت مداوم و کنترل‌های دقیق در زمان اجرا اعمال شود. براون افزود: «ما حفاظت‌های خود را به‌طور خاص برای تعاملات پیچیده هوش مصنوعی طراحی کرده‌ایم تا اطمینان حاصل شود که سازمان‌ها در برابر تهدیدات و نشت اطلاعات آسیب‌پذیر نباشند.»
تحلیل‌های اخیر گارتنر نشان می‌دهد که تقاضا برای قابلیت‌های پیشرفته مدیریت اعتماد، ریسک و امنیت هوش مصنوعی (TRiSM) در بین سازمان‌ها در حال افزایش است و این مؤسسه پیش‌بینی می‌کند که از سال ۲۰۲۶، بیش از ۸۰ درصد از حوادث غیرمجاز مرتبط با هوش مصنوعی ناشی از سوءاستفاده‌های داخلی خواهد بود.
شراکت میان Databricks و Noma Security یک رویکرد یکپارچه برای مقابله با تهدیدات پیچیده‌ای چون تزریق دستوری، نشت داده‌ها و نفوذ به مدل‌ها ارائه می‌دهد. این همکاری به سازمان‌ها کمک می‌کند تا نه تنها از جنبه‌های سخت‌افزاری، بلکه از جنبه‌های نرم‌افزاری نیز به امنیت مورد نیاز برای پیاده‌سازی هوش مصنوعی در مقیاس گسترده دست یابند.
به‌علاوه، معماری Lakehouse Databricks با ترکیب قابلیت‌های حکمرانی داده‌های سنتی با مقیاس‌پذیری دریاچه‌های داده، به‌طور مؤثری از تجزیه و تحلیل، یادگیری ماشین و بارگذاری‌های هوش مصنوعی در یک محیط مبتنی بر نظارت واحد حمایت می‌کند. این معماری به‌ویژه در مراحل استنباط و زمان اجرا، به امنیت و ریسک‌های مربوط به انطباق اهمیت می‌دهد.
در نهایت، با شتاب گرفتن پذیرش هوش مصنوعی در سازمان‌ها، نیاز به امنیت و محافظت از مدل‌ها در برابر تهدیدات افزایش می‌یابد. همکاری میان Databricks و Noma Security به‌طور هدفمند، این چالش‌ها را با ارائه تحلیلات بلادرنگ و حکمرانی یکپارچه مدیریت می‌کند، که برای سازمان‌ها بسیار حیاتی است.