صنعت هوش مصنوعی در حال ورود به عصر جدیدی است که با دستگاه “هوش مصنوعی در یک جعبه” به نام Lemony AI از سوی شرکت Uptime Industries به چشم می‌خورد. این دستگاه به اندازه یک ساندویچ طراحی شده و قادر است مدل‌های زبانی بزرگ (LLM)، عوامل هوش مصنوعی و فرآیندهای هوش مصنوعی را تنها در یک گره اجرا کند. هر دستگاه Lemony فقط به ۶۵ وات انرژی برای کار نیاز دارد که معادل شارژ یک لپ‌تاپ است و قابلیت اتصال و اشتراک‌گذاری با سایر دستگاه‌ها را دارد تا خوشه‌های هوش مصنوعی بزرگ‌تری تشکیل شود.
ساسچا بوهیرله، یکی از بنیانگذاران و مدیر عامل Uptime، به TechCrunch گفت که هر گره می‌تواند یک مدل LLM تا ۷۵ میلیارد پارامتر را پشتیبانی کند و امکان میزبانی از مدل‌های متن باز یا نسخه‌های اصلاح شده از مدل‌های بسته را دارد. در یک خوشه از دستگاه‌های Lemony، هر دستگاه می‌تواند یک مدل متفاوت را اجرا کند. Uptime با همکاری IBM و JetBrains به مشتریان خود دسترسی آسان‌تری به مدل‌های هوش مصنوعی از جمله مدل‌های بسته IBM ارائه می‌دهد.
ایده Lemony AI از یک پروژه جانبی آغاز شد. بنیانگذاران Uptime، بوهیرله و ایوان کوله‌شوف، در تلاش بودند تا ببینند آیا می‌توانند مدل‌های زبانی را بر روی رایانه‌های میکرو Raspberry Pi توزیع کنند. این پروژه که در ابتدا به هوش مصنوعی تولیدی مربوط نمی‌شد، وقتی موفقیت‌آمیز بود، آن‌ها را به فکر استفاده از این رایانه‌های کوچک برای مقاصد دیگر سوق داد. آن‌ها زمانی متوجه شدند که اجرای مدل‌ها بر روی دستگاه‌های محلی می‌تواند کلید پذیرش بیشتر هوش مصنوعی توسط سازمان‌ها باشد، به ویژه سازمان‌هایی که تمایلی به استفاده از مدل‌های مبتنی بر ابر ندارند.
بوهیرله در این باره گفت: “ما نیاز داریم چیزی کوچک بسازیم که به راحتی وارد تیم‌ها شود و نیاز به تصمیم‌گیری در سطح سازمان نداشته باشد — راه‌حل‌های هوش مصنوعی تولیدی محلی را به تیم‌های تجاری بیاوریم.” این خوشه‌های دستگاه‌های کوچک و قدرتمند می‌توانند به مشتریان کمک کنند تا سیستم خود را با توجه به نیازهایشان گسترش دهند.
شرکت Uptime همچنین اعلام کرده که تقاضای قوی از سوی کسب‌وکارها در صنایع تحت نظارت شدید مانند مالی، بهداشت و حقوق را مشاهده کرده است. بوهیرله تأکید کرد: “همه چیز در جعبه شما باقی می‌ماند. بنابراین اسناد، فایل‌ها و ایمیل‌های شما درون جعبه می‌مانند، مدل‌ها درون جعبه میزبانی می‌شوند و عوامل به‌طور محلی درون جعبه اجرا می‌شوند و هیچ چیزی از جعبه خارج نمی‌شود.”
این استارتاپ تا کنون ۲ میلیون دلار در یک دور تأمین مالی اولیه به رهبری True Ventures، با مشارکت Alumni Ventures، JetBrains و چند سرمایه‌گذار فرشته جذب کرده است. Uptime قصد دارد از این بودجه برای توسعه بیشتر دستگاه‌های خود استفاده کند. همچنین این شرکت در نظر دارد نرم‌افزار Lemony OS که برای رایانه‌های میکرو AI خود توسعه داده، بر روی سخت‌افزار شرکت‌های دیگر مانند Nvidia DGX Spark کار کند و تنوع نرم‌افزار خود را از تمرکز بر کاربران تک‌نفره به استفاده تیمی گسترش دهد. هزینه استفاده از Lemony AI معادل ۴۹۹ دلار در ماه است و می‌تواند توسط حداکثر پنج کاربر قابل دسترسی باشد.