تحلیل مصرف انرژی مدلهای هوش مصنوعی با ابزار جولیان دلاوند
آیا تاکنون به این فکر کردهاید که هنگام تعامل با یک مدل هوش مصنوعی چقدر برق مصرف میکنید؟ مهندس شرکت هَگینگ فیس، جولیان دلاوند، با این سوال رو به رو شد و ابزاری را برای دستیابی به پاسخ آن طراحی کرد. مدلهای هوش مصنوعی هر بار که اجرا میشوند، انرژی زیادی مصرف میکنند. این مدلها روی پردازندههای گرافیکی (GPU) و چیپهای تخصصی اجرا میشوند که برای پردازش بارهای محاسباتی به مقدار زیادی انرژی نیاز دارند.
تعیین مصرف انرژی مدلها کار آسانی نیست، اما انتظار میرود در سالهای آینده به دلیل افزایش استفاده از فناوریهای هوش مصنوعی، نیاز به برق به سقفهای جدیدی برسد. این افزایش تقاضا برای انرژی بیشتر، برخی شرکتها را به اتخاذ استراتژیهای غیر محیطزیستی سوق داده است. ابزاری که دلاوند ساخته، هدفش جلب توجه به این موضوع و احتمالاً تشویق کاربران هوش مصنوعی به تفکر دوباره در مورد مصرف انرژی است. او در این زمینه میگوید: “حتی صرفهجوییهای کوچک در مصرف انرژی میتواند در میلیونها پرسش جمع شود — انتخاب مدل یا طول خروجی میتواند تاثیرات زیستمحیطی قابل توجهی داشته باشد.”
این ابزار بهگونهای طراحی شده که با رابط کاربری چت (Chat UI) که یک رابط متنباز برای مدلهایی مانند لاما 3.3 70B متا و جمنا 3 گوگل است، کار میکند. ابزار دلاوند مصرف انرژی پیامهای ارسالی و دریافتی از یک مدل را بهصورت لحظهای برآورد کرده و میزان مصرف را به واتساعت یا ژول نشان میدهد. همچنین مصرف انرژی مدل را با دستگاههای خانگی رایجی مانند مایکروویو و LED مقایسه میکند. بهطور مثال، بررسیها نشان میدهد که نوشتن یک ایمیل معمولی با استفاده از لاما 3.3 70B تقریباً 0.1841 واتساعت انرژی مصرف میکند، که معادل روشن کردن مایکروویو برای 0.12 ثانیه یا استفاده از توستر برای 0.02 ثانیه است.
شایان ذکر است که برآوردهای این ابزار، تنها تخمینهایی هستند و دلاوند ادعایی درباره دقت خارقالعاده آنها ندارد. با این حال، این ابزار یادآور مهمی است که تمامی خدمات — از جمله چتباتها — هزینههایی دارند. دلاوند و همکارانش بر این اعتقادند که “با پروژههایی مانند امتیاز انرژی هوش مصنوعی و تحقیقات وسیعتر در زمینه اثرات انرژی هوش مصنوعی، در حال تلاش برای شفافسازی در جامعه متنباز هستیم. ممکن است روزی، میزان مصرف انرژی به اندازه برچسبهای تغذیهای روی مواد غذایی در دسترس باشد!”
این ابزار نوآورانه میتواند به ایجاد آگاهی بیشتر در مورد مصرف انرژی در دنیای رو به رشد هوش مصنوعی کمک کند و زمینهای برای تفکر درباره چالشهای زیستمحیطی مرتبط با این فناوری فراهم آورد.