شرکت Liquid AI، استارتاپی که توسط پژوهشگران پیشین مؤسسه فناوری ماساچوست (MIT) تأسیس شده است، به تازگی از معرفی “LEAP” یا “Liquid Edge AI Platform” خبر داد. این پلتفرم به منظور توسعه معماری‌های نوین مدل‌های هوش مصنوعی فراتر از “ترنسفورمرها” طراحی شده است و شامل یک کیت توسعه نرم‌افزار (SDK) چندپلتفرمی است که به توسعه‌دهندگان کمک می‌کند تا مدل‌های زبان کوچک (SLM) را به راحتی در برنامه‌های موبایلی خود یکپارچه کنند.
به همراه عرضه LEAP، اپلیکیشن iOS به نام “Apollo” نیز معرفی شد که به کاربران این امکان را می‌دهد تا این مدل‌ها را به صورت محلی تست کنند و در راستای حفظ حریم خصوصی و بهینه‌سازی عملکرد هوش مصنوعی بر روی سخت‌افزارهای مصرف‌کننده گام بردارند.
LEAP در زمانی ارائه شده است که بسیاری از توسعه‌دهندگان به دنبال راه‌حل‌های جایگزین برای خدمات هوش مصنوعی مبتنی بر کلود هستند، به دلیل نگرانی‌های مربوط به تأخیر، هزینه، حریم خصوصی و امکان دسترسی آفلاین. این SDK به بهترین شکل به این نیازها پاسخ می‌دهد و با رویکردی محلی، امکان اجرای مدل‌های کوچک را مستقیماً بر روی دستگاه فراهم می‌آورد و وابستگی به زیرساخت‌های کلود را کاهش می‌دهد.
پلتفرم LEAP برای توسعه‌دهندگانی طراحی شده است که می‌خواهند با هوش مصنوعی کار کنند اما ممکن است در زمینه یادگیری ماشین تخصص عمیق نداشته باشند. بنا به گفته Liquid AI، افزودن این SDK به پروژه‌های iOS یا Android تنها با چند خط کد امکان‌پذیر است و فراخوانی مدل محلی به اندازه تعامل با یک API سنتی کلود تسهیل‌شده است.
رامین حسینی، یکی از بنیان‌گذاران و مدیرعامل Liquid AI، در پستی در وب‌سایت این شرکت گفت: “تحقیقات ما نشان می‌دهد که توسعه‌دهندگان از خدمات هوش مصنوعی تنها مبتنی بر کلود عبور کرده‌اند و به دنبال شرکای معتبر برای توسعه بر روی دستگاه هستند. LEAP پاسخ ما به این نیازهاست – یک پلتفرم انعطاف‌پذیر و جامع برای استقرار هوش مصنوعی کارآمد و خصوصی.”
این SDK به طور ویژه با در نظر گرفتن اجرای محلی، بهینه‌سازی حافظه و سازگاری با دستگاه طراحی شده است که فرایند استقرار معمولی در محیط‌های موبایلی را تسهیل می‌کند. LEAP به صورت بومی از iOS و Android پشتیبانی می‌کند و با مدل‌های پایه Liquid AI (LFMs) و بسیاری از مدل‌های محبوب متن‌باز سازگاری دارد.
در کنار اجرای مدل‌ها، LEAP به عنوان یک پلتفرم جامع برای کشف، تطبیق، آزمایش و استقرار SLMs در کاربردهای لبه معرفی شده است. این پلتفرم به توسعه‌دهندگان این امکان را می‌دهد که از قفسه‌ای از مدل‌ها با گزینه‌های مختلف بهره‌برداری کنند و عملکرد و استفاده از حافظه را متناسب با محدودیت‌های دستگاه هدف انتخاب کنند.
Liquid AI بر این نکته تأکید دارد که مدل‌های بزرگ معمولاً عملکرد عمومی دارند، در حالی که مدل‌های کوچک غالباً بهترین عملکرد را زمانی ارائه می‌دهند که برای مجموعه خاصی از وظایف بهینه‌سازی شده‌اند.
در پایان، Liquid AI اعلام کرد که مدل‌های LFM2، نسل دوم مدل‌های پایه خود که به‌طور ویژه برای کارهای روی دستگاه طراحی شده‌اند، به همراه LEAP عرضه خواهند شد. این مدل‌ها در اندازه‌های مختلفی در دسترس بوده و به طور رقابتی با مدل‌های بزرگ‌تر از نظر سرعت و دقت عمل می‌کنند.
توسعه‌دهندگان می‌توانند به راحتی از طریق وب‌سایت LEAP SDK شروع به کار کنند، اپلیکیشن Apollo را از اپ استور دانلود کنند یا به جامعه توسعه‌دهندگان Liquid AI در Discord بپیوندند.