عنوان: کارن هائو و پرسش از «امپراتوری» OpenAI: وعدههای AGI، هزینههای پنهان و راههای جایگزین
خلاصه: کارن هائو، روزنامهنگار و نویسنده کتاب «امپراتوری هوش مصنوعی»، در بررسی خود از صنعت هوش مصنوعی بهویژه نقش برجسته OpenAI میپردازد و هشدار میدهد که تعهد بلندپروازانه به ساخت «هوش مصنوعی عمومی» (AGI) زیرساختهای فنی، زیستمحیطی و اجتماعی بزرگی را مصرف و آسیبهای واقعی ایجاد کرده است. او پیشنهاد میکند مسیر دیگری مبتنی بر کارایی الگوریتمی، شفافیت و حفاظت از نیروی کار ممکن است همزمان امنیت و منفعت عمومی را بهتر تأمین کند.
متن خبر:
هر امپراتوری یک ایدئولوژی مرکزی دارد که توسعه و توجیه گسترش آن را ممکن میسازد. در عصر استعمار اروپایی این ایدئولوژی مذهب بود؛ در عصر امروزِ «امپراتوری هوش مصنوعی»، ایدئولوژی وعده ساختِ هوش مصنوعی عمومی (AGI) است که «برای همه بشریت سودمند» خواهد بود. کارن هائو در کتاب و مصاحبههای خود OpenAI را مبلّغ اصلی این ایدئولوژی میداند و میگوید پذیرش سریع این روایت در سراسر صنعت، شیوه ساخت و توسعه هوش مصنوعی را بازتعریف کرده است.
چیستِ AGI و وعدهها
OpenAI تعریف کرده است که AGI «سامانهای بسیار خودگردان است که در بیشتر فعالیتهای اقتصادی باارزش از انسانها پیشی میگیرد» و بهطور معجزهآسا «با افزایش وفور منابع، اقتصاد را شتاب میدهد و در کشف دانش علمی جدید یاریرسان بشر خواهد بود.» اما این وعدههای کلی و مبهم موجب رشد انفجاری تقاضا برای داده و محاسبات شدهاند—رشدِ منابعی که هزینههای زیستمحیطی، اجتماعی و اخلاقی قابلتوجهی در پی داشته است.
هزینههای واقعی: داده، انرژی و انسانها
تمرکز بر «سرعت» بهجای «کارایی» یا «ایمنی» باعث شده شرکتها برای رقابت، به جای بهینهسازی الگوریتمها، به افزایش حجم داده و قدرت محاسباتی روی بیاورند. پیامدها شامل موارد زیر است:
– مصرف انرژی و فشار بر شبکههای برق.
– جمعآوری انبوه دادههای اینترنتی (web scraping) که محتوای سمی و خصوصی را وارد مجموعههای آموزشی میکند.
– انتشار سیستمهای آزمایشنشده در محیط عمومی.
– تمرکز ثروت و قدرت سیاسی در دست چند شرکت بزرگ.
– پیامدهای اجتماعی مانند از دست رفتن شغلها و ترویج اطلاعات نادرست یا اختلالات روانی ناشی از تعامل با چتباتها.
هشدار نسبت به سوءاستفاده از نیروی کار
هائو مستند میکند که در برخی از کشورها (مثلاً کنیا و ونزوئلا) کارگرانی با دستمزد بسیار پایین—حدود ۱ تا ۲ دلار در ساعت—در امور نظارت محتوایی و برچسبگذاری دادهها مشغولاند و در معرض محتوای آزاردهنده و غیرقابلتحمل قرار گرفتهاند. این مسئله نشان میدهد هزینههای انسانی و اخلاقی دادهکاوی و آمادهسازی دادهها نادیده گرفته شدهاند.
پول هنگفت و مسابقه تسلیحاتیِ فناوری
شمار بالای سرمایهگذاریها نشان میدهد رقابت بر سر پیشتازی در هوش مصنوعی به سطحی سرمایهبر و تسلیحاتی رسیده است:
– OpenAI پیشبینی کرده است که تا سال ۲۰۲۹ حدود ۱۱۵ میلیارد دلار هزینه خواهد کرد.
– Meta در گزارشی اعلام کرده بود تا ۷۲ میلیارد دلار برای زیرساختهای هوش مصنوعی و مرتبط اختصاص میدهد.
– گوگل نیز سرمایهگذاریهای کلانی (بیش از ۸۵ میلیارد دلار برای ۲۰۲۵ در قالب هزینههای سرمایهای) برای گسترش زیرساختهای ابری و هوش مصنوعی برنامهریزی کرده است.
آیا راه دیگری وجود دارد؟
هائو تأکید دارد این مسیر اجتنابناپذیر نیست؛ به جای اتکا صرف به «بزرگتر شدن» میتوان با تحقیق و توسعه الگوریتمهای کاراتر، نیاز به داده و محاسبات را کاهش داد. بهعنوان نمونهای مثبت، پروژههایی مانند AlphaFold از Google DeepMind نشان میدهند که سیستمهای هوش مصنوعی میتوانند با مصرف داده و محاسبات کمتر، دستاوردهای علمی ملموسی—مثل پیشبینی ساختار سهبعدی پروتئینها—به همراه داشته باشند که در کشف دارو و شناخت بیماریها کاربردیاند و آسیبهای اجتماعی یا زیستمحیطی گسترده ایجاد نمیکنند.
سردرگمی میان مأموریت غیرانتفاعی و سودآوری
ساختار ترکیبی OpenAI—ترکیبی از نهاد غیرانتفاعی و شرکت سودمحور—و تعاملات مالی با بازیگران بزرگ مانند مایکروسافت، نگرانیهایی درباره خلط مأموریتها ایجاد کرده است. دو پژوهشگر سابق بخش ایمنی OpenAI به رسانهها گفتهاند که گرایش به تولید محصولاتی محبوب و سودآور ممکن است به بهانه «سود برای بشریت» از نقد و سنجش اخلاقی و ایمنی بکاهد. هائو هشدار میدهد که تعصب ایدئولوژیک نسبت به مأموریت AGI میتواند واقعیتهای زیانده را بپوشاند و تصمیمگیریها را دگرگون سازد.
جمعبندی و پیشنهادات
کتاب و تحلیل هائو این پرسشها را مطرح میکند: آیا رسیدن به AGI هدف غایی است؟ آیا سرعتِ رقابت نباید در برابر امنیت، شفافیت و عدالت اجتماعی تابعیت کند؟ برای هدایت آینده هوش مصنوعی بهنحو مسئولانهتر لازم است:
– شفافیت در مصرف منابع و مجموعه دادهها،
– سرمایهگذاری در پژوهشهای الگوریتمی کارآمدتر،
– سیاستگذاری برای حمایت از کارگران در زنجیره دادهکاوی،
– و نظارت عمومی و حقوقی بر ترکیب مأموریتهای انتفاعی و غیرانتفاعی شرکتها.
این گفتوگو نقطه عزیمت مهمی است برای بازاندیشی در مسیر توسعه هوش مصنوعی: مسیری که نه تنها با وعدههای بزرگ توصیف شود، بلکه با معیارهای روشنِ ایمنی، اثرگذاری اجتماعی و پاسخگوییِ واقعی سنجیده گردد.