ZML، استارتاپ فرانسوی مورد تایید یان لوکان، سرور استنتاج جدیدی به نام ZML/LLMD منتشر کرد که وعده میدهد مدلهای بزرگ زبانی متن-باز را روی مجموعهای گسترده از پردازندهها با حداکثر عملکرد ممکن اجرا کند — از پردازندههای انویدیا و ایامدی تا TPU گوگل، Apple Metal و اینتل Arc. این محصول هدفش شکستن انحصارهای سختافزاری و نرمافزاری در حوزه استنتاج (پردازش ورودیها توسط مدلها) و فراهم کردن گزینههای متنوع برای سازمانها و ارائهدهندگان ابری است.
چرا این خبر مهم است؟
– با گسترش استفاده از هوش مصنوعی در کار و زندگی روزمره، بهینهسازی استنتاج از خود آموزش مدلها اهمیت بیشتری یافته است. موانع نرمافزاری و معماری فعلی اغلب منجر به وابستگی به یک فروشنده خاص (vendor lock-in) میشود که هزینهها و مصرف انرژی را افزایش میدهد. محصول ZML/LLMD میتواند این وابستگی را کاهش دهد و به سازمانها اجازه دهد ترکیبی از چیپها را با توجه به هزینه و مصرف انتخاب کنند.
– اجرای بهینه مدلهای زبان بزرگ روی سختافزارهای متنوع میتواند هم هزینههای عملیاتی را کاهش دهد و هم امکان استفاده از چیپهای نوظهور (بخصوص از اروپا) را فراهم کند.
قابلیتها و رویکرد فنی
– ZML/LLMD بهعنوان یک سرور استنتاج طراحی شده تا مدلهای متنباز LLM را روی معماریهای مختلف اجرا کند و به گفته بنیانگذار ZML، Steeve Morin، گاهی عملکردی نزدیک یا حتی بهتر از حداکثر توان سختافزار ارائه دهد.
– رویکرد این شرکت فراتر از صرفاً پشتیبانی از سختافزار است؛ آنها بر «همطراحی» (co-design) نرمافزار و سیلیکون تاکید دارند تا بهینهسازیهایی ممکن شود که قبلاً در دسترس نبودهاند.
رقابت و چشمانداز بازار
– بازار استنتاج در حال حاضر رقابتی است و بازیگرانی مانند Baseten، Inferact و RadixArk نیز در این حوزه فعالاند. پروژههای متنباز مانند vLLM و SGLang نیز بخشی از رقابت را تشکیل میدهند، اما ZML/LLMD قصد دارد دامنهای گستردهتر از قابلیتها را پوشش دهد.
– این رقابت در زمینهای رخ میدهد که برخی آن را «تب طلای استنتاج» توصیف میکنند؛ جایی که کاهش هزینه و بهبود بهرهوری انرژی از اولویتهای اصلی سازمانهاست.
پتانسیل برای اکوسیستم چیپهای نوپا
– Morin اشاره کرده که نرمافزار ZML میتواند به رشد نوآوری در میان تولیدکنندگان چیپ، بهخصوص شرکتهای نوظهور اروپایی مانند Axelera، Fractile، Kalray، OLIX، Q.ANT، SiPearl، SpiNNcloud و VSORA کمک کند. فراهم شدن پشتیبانی نرمافزاری از این چیپها میتواند مسیر تجاریسازی و پذیرش آنها را کوتاهتر کند.
وضعیت تجاری و تامین مالی
– ZML تیمی کوچک و چالاک متشکل از حدود ۲۰ نفر دارد که طبق گفته Morin این چابکی به تسریع توسعه کمک کرده است. این استارتاپ تاکنون ۲۰ میلیون دلار سرمایه از صندوقهایی شامل 20VC، Kima Ventures، Kindred Capital، LocalGlobe و سایرین جذب کرده است.
– برخلاف پروژه قبلی عمومی شرکت که چارچوبی متنباز برای استنتاج منتشر شد، ZML/LLMD در حال حاضر متنباز نیست اما بهصورت رایگان عرضه شده تا شرکت بتواند الگوی استفاده را مطالعه کند و سپس تصمیم بگیرد چگونه و چه زمانی درآمدزایی را آغاز کند.
روابط با انویدیا و موضع نسبت به تولیدکنندگان بزرگ
– Morin تصریح کرده که رابطه ZML با انویدیا خوب است و این شرکت را رقیبی نمیبیند؛ در عین حال هدف ZML افزایش گزینهها و جلوگیری از تمرکز صرف روی یک یا دو فروشنده بزرگ است. فراهمسازی انتخابهای بیشتر میتواند به کاهش هزینهها و مصرف انرژی در استفاده از LLMها کمک کند.
جمعبندی
ZML/LLMD یک حرکت قابلتوجه در جهت باز کردن قفلهای سختافزاری و نرمافزاری در استنتاج مدلهای بزرگ زبانی است. اگر این نرمافزار بتواند وعدههای خود را عملی کند، میتواند نه تنها به کاهش هزینهها و مصرف انرژی کمک کند، بلکه اکوسیستم نوپای چیپهای نوظهور را نیز تقویت نماید. موفقیت نهایی این پروژه به میزان پذیرش توسط شرکتها، عملکرد واقعی روی سختافزارهای متنوع و تصمیمات تجاری آینده ZML درباره مدل درآمدی بستگی دارد.