درگیری تازه بین آنتروپیک و وزارت دفاع آمریکا؛ آیا کنترل هوش مصنوعی در اختیار دولت خواهد بود یا شرکتها؟
در دو هفته گذشته تنش میان داریو آمودئی (Dario Amodei)، مدیرعامل شرکت آنتروپیک، و پیت هگست (Pete Hegseth)، وزیر مرتبط با سیاستهای دفاعی، به سوژهای مهم در حوزه هوش مصنوعی و امنیت ملی تبدیل شده است. محور اختلاف روشن است: آنتروپیک میگوید مدلهای هوش مصنوعیاش نباید برای نظارت گسترده بر شهروندان آمریکایی یا برای سلاحهای کاملاً خودمختار که بدون دخالت انسانی هدفگیری و شلیک میکنند، بهکار روند؛ در مقابل پنتاگون اصرار دارد هر «استفاده قانونی» از این فناوری باید برای ارتش مجاز باشد و نباید توسط سیاستهای داخلی یک شرکت محدود شود.
چرا این اختلاف اهمیت دارد؟
این مبارزه در اصل سر کنترل سامانههای قدرتمند هوش مصنوعی است: آیا شرکتهایی که این مدلها را میسازند حق تعیین قواعد استفاده را دارند یا دولت و ارتش میتوانند بدون محدودیت به کارگیری کنند؟ آنتروپیک از ابتدا بر این باور بوده که هوش مصنوعی خطرات خاصی دارد و باید حفاظتها و خط قرمزهای ویژهای برای آن تعریف شود. از دید این شرکت، سوال تعیینکننده این است که چگونه میتوان این حفاظتها را زمانی که فناوری در خدمت نیروهای نظامی قرار میگیرد حفظ کرد.
چه نگرانیهایی وجود دارد؟
– سلاحهای خودمختار: هرچند تصمیم برای استفاده از نیروی کشنده معمولاً بر عهده انسان گذاشته شده، دستورالعملهای وزارت دفاع آمریکا در سال 2023 نشان میدهد در شرایطی سامانههای هوش مصنوعی میتوانند بدون دخالت انسانی هدفگیری و درگیر شوند، به شرطی که استانداردها و بررسیهای لازم توسط مقامات عالی انجام شود. این امکان، موجب نگرانی آنتروپیک شده است، چون اقدامات نظامی بهطور معمول محرمانه است و ممکن است خودکارسازی تصمیمات مرگوزندگی بدون اطلاع عمومی رخ دهد.
– نظارت همگانی: قوانین فعلی آمریکا امکان جمعآوری پیامها و ارتباطات را فراهم میکند، اما هوش مصنوعی میتواند توانمندیهای تحلیل را به سطحی برساند که نظارت قانونی را به «نظارت گسترده و خودکار» تبدیل کند — شامل تشخیص الگو در حجم عظیم دادهها، ترکیب رکوردها از منابع مختلف و تحلیل مداوم رفتارها.
موضع پنتاگون چیست؟
وزارت دفاع آمریکا میگوید نباید توسط سیاستهای استفاده داخلی یک فروشنده محدود شود. سخنگوی پنتاگون، شان پارنل (Sean Parnell)، در بیانیهای خواستار اجازه برای استفاده از مدل آنتروپیک «برای تمام مصارف قانونی» شد و هشدار داد اگر آنتروپیک همکاری نکند، این شرکت ممکن است بهعنوان «ریسک زنجیره تأمین» شناخته و از فهرست پیمانکاران دولتی حذف شود. وزیر هگست نیز تهدید کرده که در صورت لزوم از ابزارهایی مانند قانون تولید دفاعی (Defense Production Act) برای مجبور کردن شرکت به تطبیق مدل با نیازهای نظامی استفاده خواهد کرد.
عواقب احتمالی برای آنتروپیک و امنیت ملی
در صورتی که آنتروپیک از سوی وزارت دفاع بهعنوان ریسک زنجیره تأمین شناخته شود، برای این شرکت دسترسی به قراردادهای دولتی عملاً قطع میشود که برخی کارشناسان آن را «نابودی تجاری» توصیف میکنند. از سوی دیگر، حذف یک بازیگر پیشرو از فهرست پیمانکاران میتواند خلأیی در قابلیتهای ارتش ایجاد کند؛ کارشناسان میگویند طی شش تا دوازده ماه ممکن است تنها شرکتهای دیگر مانند OpenAI یا xAI بتوانند جایگزین شوند — مسیری که لزوماً بهترین مدل را در اختیار پنتاگون نخواهد گذاشت.
رقابت شرکتها و چشمانداز تنظیمگری
در حالی که xAI و برخی رقبای دیگر خود را آماده میکنند تا پاسخ نیازهای طبقهبندیشده و نظامی را بدهند، پرسش بزرگتر درباره چارچوبهای نظارتی و اخلاقی است: آیا باید دولت حق داشته باشد برای «استفاده قانونی» هر فناوریای را به کار ببرد؟ یا شرکتهایی که درباره ریسکهای فناوری آگاهاند میتوانند خط قرمزهایی برای کاربردها تعیین کنند؟
چه چیزی در آینده نزدیک رخ خواهد داد؟
پنتاگون به آنتروپیک ضربالاجل داده است (تا ساعت 5:01 بعدازظهر به وقت شرقی روز جمعه) و روشن نیست آیا تهدیدها عملی خواهند شد یا خیر. نتیجه این منازعه میتواند روی روند همکاری میان شرکتهای توسعهدهنده هوش مصنوعی و نهادهای دولتی، سیاستگذاریهای آینده درباره سلاحهای خودمختار و قوانین نظارتی پیرامون استفاده داخلی و نظامی از هوش مصنوعی تأثیرگذار باشد.
جمعبندی
این مناقشه بین آنتروپیک و وزارت دفاع آمریکا فراتر از یک اختلاف قراردادی است؛ بحثی اساسی درباره مالکیت اخلاقی و حقوقی فناوریهای قدرتمند هوش مصنوعی است. هر تصمیمی در این پرونده، هم پیامدهای امنیتی و تجاری گستردهای دارد و هم چارچوبهای قانونی و اخلاقیِ استفاده از هوش مصنوعی در سطح ملی و بینالمللی را شکل خواهد داد. پیگیری این پرونده برای اطلاع از جهتگیری آینده سیاستهای هوش مصنوعی و امنیت ملی ضروری است.