Pramaana Labs با جذب ۲۷ میلیون دلار سرمایه بذری به دنبال رفع مشکل اعتمادپذیری در پیادهسازی هوش مصنوعی
استارتاپ Pramaana Labs که هدفش افزایش قابلیت اعتماد و کاهش خطا در پیادهسازی هوش مصنوعی در حوزههای حساس است، دور سرمایهگذاری بذری به ارزش ۲۷ میلیون دلار را با هدایت Khosla Ventures بهسرانجام رساند. در این راند سرمایهگذاری علاوه بر Khosla Ventures، صندوقهایی مانند Accel، BoldCap، Nexus Venture Partners، Premji Invest و Unbound نیز حضور داشتند. تمرکز اولیه Pramaana بر صنایع حساس مانند حقوق، کشف دارو و تهیه اظهارنامههای مالیاتی است؛ حوزههایی که کوچکترین خطا میتواند تبعات مالی، حقوقی یا حتی خطرات سلامت به دنبال داشته باشد.
چالش: از اجرای آزمایشی تا استقرار قابلاطمینان
یکی از بزرگترین موانع پیش روی سازمانها، تبدیل پروژههای آزمایشی هوش مصنوعی به بخشهای عملیاتی و قابلاعتماد کسبوکار است. مدلهای زبان بزرگ (LLM) توانایی بالایی در پاسخگویی به سوالات به زبان طبیعی و حل مسائل پیچیده دارند، اما در عین حال مستعد «هالوسینیشن» (تولید اطلاعات نادرست) و خطاهایی هستند که در سیستمهای حیاتی غیرقابل قبولاند. Pramaana قصد دارد این ضعف را با تلفیق انعطافپذیری LLMها و روشهای رسمی و ریاضیاتی حل کند.
راهکار Pramaana: ترکیب مدلهای زبانی با تایید قطعی (deterministic verification)
رویکرد این شرکت استفاده از یک لایه قطعی بر بالای موتور LLM است؛ بهطوری که خروجی مدل ابتدا به زبان طبیعی تولید میشود و سپس توسط مکانیسمهای رسمی بررسی و تایید میگردد. این سازوکار امکان بهرهمندی از تواناییهای استنتاجی مدلهای زبانی و همزمان اطمینان از سازگاری نتایج با قوانین و قیود حوزههای تخصصی را فراهم میکند. بهعبارت دیگر، Pramaana میخواهد «قوانین» هر حوزه را به شکلی کدگذاریشده و قابل اجرا درآورد تا منطق استدلالی، از حالت احتمالی به سمت تعیینپذیر تغییر یابد.
استفاده از ابزارهای اثبات رسمی و زبان LEAN
تمایز اصلی Pramaana در بهرهگیری از ابزارها و مفاهیم اثبات رسمی (formal verification) است؛ از جمله استفاده از زبان برنامهنویسی متنباز LEAN که در جامعه ریاضیات و علوم کامپیوتر برای اثبات قضایا بهکار میرود. با الگوگیری از این ابزارها، Pramaana برای هر کاربرد کلیدی یک سیستم تایید رسمی بهسبک LEAN توسعه میدهد که تحت نظارت خبرگان حوزه طراحی میشود تا تضمین کند نتایج مدل با قوانین و قیدهای آن حوزه تطابق دارد.
سابقه و شواهد موفقیت
ایده رسمیسازی قوانین رویهای سابقه دارد؛ مثلاً پروژه فرانسوی CATALA بخشی از سیستم مالیاتی و کمکهای اجتماعی این کشور را به صورت کدهای اجرایی و رسمیسازیشده درآورده است. Pramaana این مدل را در حوزههای حساس دیگر پیاده میکند و برای مثال در بخش مالیاتی با همکاری Danny Werfel، مدیر پیشین IRS، کار میکند. همچنین تیمی از اساتید IIT Delhi، IIT Madras و UC Berkeley بر توسعه سیستمهای مربوط به امنیت سایبری و کشف دارو نظارت دارند.
چرا این رویکرد مهم است؟
در حوزههایی که اشتباه هزینهبر است — چه از منظر سلامت، چه پول یا آزادی افراد — صرف داشتن مدلهای قدرتمند کافی نیست؛ این حوزهها نیازمند قوانین رسمیشده و مکانیزمهای بررسی قطعیاند. به گفته Ranjan Rajagopalan، همبنیانگذار و مدیرعامل Pramaana: «مشکلهای سخت جهان، ناممکن نیستند؛ تنها رسمیسازی نشدهاند.» با کدگذاری قاعدهمندی هر حوزه، امکان رسیدن به استنتاجهای تعیینپذیر و قابل اتکا فراهم میشود.
چشمانداز
Pramaana Labs میکوشد بار دیگر مرز میان قدرت استنتاجی مدلهای زبانی و ضرورتهای قابلاطمینان بودن در کاربردهای حیاتی را پر کند. اگر موفق شود، سازمانها در حوزههای حساس خواهند توانست از مزایای هوش مصنوعی بهرهمند شوند بدون نگرانی از خطاهای پنهان یا هالوسینیشنهایی که میتوانند پیامدهای جدی به دنبال داشته باشند.