پلتفرم جدید پترونوس AI: شناسایی هوشمند خطاها در سیستم‌های عامل هوش مصنوعی
شرکت پترونوس AI که در سانفرانسیسکو مستقر است، امروز از پلتفرم نوین خود به نام “پرسیوال” رونمایی کرد. این پلتفرم با هدف شناسایی خودکار خطاها در سیستم‌های عامل هوش مصنوعی طراحی شده و به مشکلات مربوط به قابلیت اعتماد این سیستم‌ها که با افزایش پیچیدگی به‌وجود می‌آید، پاسخ می‌دهد. این محصول به‌عنوان نخستین راه‌حل در صنعت معرفی شده که قادر است الگوهای مختلف خطا در سیستم‌های هوش مصنوعی را شناسایی و بهینه‌سازی‌های لازم را پیشنهاد کند.
آنند کاناپان، مدیرعامل و یکی از مؤسسان پترونوس AI، در گفت‌وگویی اختصاصی با وِنچربیت، عنوان کرد: «پرسیوال نخستین راه‌حل در این صنعت است که به‌طور خودکار انواع الگوهای خطا در سیستم‌های عامل را شناسایی کرده و به‌طور سیستمی به رفع آن‌ها می‌پردازد.» استفاده از عوامل هوش مصنوعی — نرم‌افزارهایی که می‌توانند به‌طور مستقل برنامه‌ریزی و وظایف پیچیده چند مرحله‌ای را انجام دهند — در ماه‌های اخیر سرعت بیشتری به خود گرفته و به چالش‌های مدیریتی جدیدی منجر شده است.
این سیستم‌های عامل هوش مصنوعی در مقایسه با مدل‌های یادگیری ماشین سنتی، شامل زنجیره‌های پیچیده‌ای از عملیات هستند که هر گونه خطا در مراحل اولیه می‌تواند تبعات قابل توجهی به‌دنبال داشته باشد. کاناپان ادامه داد: «برخی هفته‌ها پیش، مدلی را منتشر کردیم که احتمال بروز خطا در این عوامل را و تأثیر آن بر برند، ترک مشتری و موارد مشابه را به‌صورت کمی تحلیل می‌کند.»
موضوع شناسایی خطا در محیط‌های چندعاملی که در آن سیستم‌های هوش مصنوعی با یکدیگر تعامل دارند، به‌ویژه حائز اهمیت است، چرا که روش‌های آزمایش سنتی دیگر به‌تنهایی کافی نیستند. پرسیوال از قرارگیری متفاوت در ساختار خود و همچنین ویژگی «حافظه اپیزودیک» بهره می‌برد که به آن امکان یادگیری از خطاهای گذشته و سازگاری با جریان کار مشخص می‌دهد. این نرم‌افزار می‌تواند بیش از ۲۰ نوع خطای مختلف را در چهار دسته تشخیص دهد: خطاهای استدلال، خطاهای اجرایی سیستم، خطاهای برنامه‌ریزی و هماهنگی، و خطاهای خاص دامنه.
به‌گفته کارشناسان، یکی از مزایای فوری برای شرکت‌ها، کاهش زمان دیباگینگ است. طبق اعلام پترونوس، مشتریان اولیه توانسته‌اند زمان صرف شده برای تجزیه و تحلیل جریان‌های کاری عوامل را از حدود یک ساعت به بین یک تا ۱.۵ دقیقه کاهش دهند. هم‌زمان با این رونمایی، پترونوس یک معیار به نام TRAIL نیز معرفی کرده که برای ارزیابی توانایی سیستم‌ها در شناسایی مشکلات در جریان‌های کاری عوامل هوش مصنوعی طراحی شده است.
مطالعات انجام شده با استفاده از این معیار نشان داد که حتی مدل‌های پیشرفته هوش مصنوعی نیز در تحلیل دقیق آثار شکست عملکرد ناکام هستند. این یافته‌ها دشواری‌های موجود در نظارت بر سیستم‌های پیچیده هوش مصنوعی را به تصویر می‌کشند و به احتمال زیاد توضیح‌دهنده دلایل سرمایه‌گذاری‌های گسترده شرکت‌های بزرگ در ابزارهای نظارتی هوش مصنوعی خواهند بود.
شرکت‌های نوظهوری چون Emergence AI و Nova به سرعت از این تکنولوژی بهره‌برداری کرده‌اند. با توجه به افزایش نگرانی‌ها در مورد قابلیت اعتماد و حاکمیت هوش مصنوعی، نیاز به ابزارهای نظارت به‌طور قابل توجهی افزایش یافته است. این ابزارها به شرکت‌ها کمک می‌کنند تا با نظارت صحیح بر روی سیستم‌ها، از پیچیدگی بیشتر جلوگیری کنند.
با توجه به روند فزاینده به‌کارگیری سیستم‌های خودکار و نیاز به نظارت بر آن‌ها، انتظار می‌رود بازار ابزارهای نظارتی در حوزه هوش مصنوعی به‌سرعت گسترش یابد. پرسیوال با یکپارچگی در چندین چارچوب هوش مصنوعی، از جمله Hugging Face، Smolagents و OpenAI Agent SDK، خود را برای تطابق با محیط‌های توسعه مختلف آماده کرده است.
پترونوس به‌طور رسمی جزئیات قیمت‌گذاری و پیش‌بینی‌های درآمدی را منتشر نکرده است، اما تمرکز آن بر روی نظارت در سطح شرکتی احتمالاً نشان‌دهنده موقعیت آن در بازار ایمنی هوش مصنوعی با حاشیه سود بالا است.