عنوان: انتشار گسترده «سول» توسط OpenAI؛ ابهام در فرایند مجوزدهی و تردیدهای نظارتی
OpenAI بهتازگی مدل زبانی بزرگ جدید خود به نام «سول» (Sol) را برای دسترسی عمومی گسترده منتشر کرده است؛ مدلی که از لحاظ تواناییها در سطحی قابل قیاس—و دستکم همتراز—با مدل «فِیبل» (Fable) شرکت Anthropic ارزیابی میشود. انتشار این دو مدل، بهویژه پس از جنجالهای اخیر درباره محدودیت دسترسی به Fable، بار دیگر پرسشهای جدی درباره سازوکارهای نظارتی و فرایندهای بررسی ایمنی در سطح دولت و صنعت را مطرح کرده است.
ابهام در فرایند مجوزدهی
تحلیلگران و فعالان حوزه امنیت و سیاستگذاری هوش مصنوعی میگویند هیچکس بهطور شفاف نمیداند چه مراحلی برای صدور «موافقت» یا «مجوز» انتشار این مدلها طی شده است. مینا نارایانان، تحلیلگر ارشد مرکز امنیت و فناوریهای نوظهور دانشگاه جورجتاون، به TechCrunch گفته است که دید روشنی نسبت به فرایندهای دقیق ندارد و نمیتواند قضاوت کند آیا اقدامها کافی بودهاند یا خیر. دین دبلیو. بال، مشاور پیشین دولتی که اکنون در OpenAI کار میکند، نیز در خبرنامه خود نوشته که «هیچکس دقیقاً نمیداند شروط لازم برای دریافت مجوز چیست».
گزارشها حاکی است OpenAI پیش از انتشار عمومی، پیشنمایشی از سول را در اختیار مقامهای دولتی و گروهی از کاربران منتخب قرار داده؛ اما هنوز روشن نیست چه کسانی این کاربران منتخب بودهاند و معیار انتخاب آنها چه بوده است. OpenAI بهجای ارائه جزئیات کامل از مذاکرات دولتی، در کارت ایمنی مدل به نتایج چند بررسی خارجی از جمله توسط UK AISI، SecureBio و Irregular ارجاع داده است.
نقش نهادهای دولتی و عدم وفاق بر سر چارچوبها
در وضعیتی نیمهرسمی، مرکز استانداردها و نوآوری هوش مصنوعی وزارت بازرگانی ایالات متحده ظاهراً نقش هدایتکننده را بر عهده گرفته، اما دستور اجرایی اخیر دولت وظیفه تعیین فرایند نهایی را به شش وزارتخانه ارجاع داده و مهلت تعیین رویه تا اوایل آگوست تعیین شده است. از سوی دیگر، سرِرام کریشنان، مشاور پیشین کاخسفید، به Financial Times گفته است که «قرار نیست برای هوش مصنوعی چیزی مانند FDA وجود داشته باشد»، جملهای که نشان میدهد چارچوب نهایی نظارتی هنوز شکل قطعی نگرفته است.
پیچیدگی سیاسی و تضاد منافع
زمینه مذاکرات میان شرکتهای بزرگ و دولت با جنبههای سیاسی و مالی نیز آمیخته است. گزارشها حاکی است مذاکرات و روابط مالی میان بعضی مدیران ارشد شرکتها و حلقههای سیاسی میتواند در نحوه برخورد دولت اثرگذار باشد؛ مسألهای که جداکردن منافع سیاسی از فرایندهای فنی و ارزیابیهای ایمنی را برای ناظران بیرونی دشوار میکند. علاوه بر این، تجربه توقف محدود دسترسی به Fable نشان داد که نگرانیهای واقعی درباره «جیلبریک» (دستکاری برای دورزدن محدودیتها) و قابلیتهای هکینگ مدلها وجود دارد.
دعوت به نقشآفرینی بیشتر پژوهشگران و ناظرین مستقل
چهرههای برجسته صنعت از فقدان نقش پررنگ دانشمندان مستقل و پژوهشگران ایمنی در فرایندهای ارزیابی ابراز نگرانی کردهاند. اندی کونویینسکی، یکی از بنیانگذاران چند شرکت فناوری، معتقد است مشکل «وجود نداردِ کنترلکنندهی واحد» و اینکه چه کسی اختیار تصمیمگیری را دارد، یک چالش عمیق وجودی است. او و دیگران از ایده «محوطه بازِ مشترک» (open commons) حمایت میکنند: مدلی شبیه نهادهایی مانند FDA، NIH یا آزمایشگاههای ملی که امکان گردهمآوردن پژوهشگران، مقامهای دولتی و شرکتهای خصوصی را برای رسیدن به توافقهای ایمنی فراهم میکند.
راهحلهای پیشنهادی شامل تقویت سازمانهای سومشخص برای ممیزی اختصاصی مدلهای پیشرفته و صدور مجوزهای دولتی برای این ممیزیهاست؛ همچنین شکلگیری سازمانهای پژوهشی متمرکز و غیردولتی که امکان دسترسی و ارزیابی بیطرفانه را برای جامعه علمی فراهم کنند، از دیگر گزینههاست.
پیامدها برای صنعت و جامعه
ادامه وضعیت کنونی—که در آن فرایندهای رسیدگی پنهان، روابط سیاسی و منافع شرکتی در هم میآمیزند—میتواند اعتماد عمومی به فناوریهای پیشرفته را تضعیف کند و منازعات سیاسی درباره مقررات را تشدید نماید. پژوهشگران دانشگاه ویسکانسین و چهرههای برجسته علمی هشدار دادهاند که تصور وضعیتی که تعداد اندکی شرکت کنترل فناوری را در دست دارند و دولت در آزمایشگاههای بسته درباره صلاحیت آن قضاوت میکند، بسیار نامطلوب است؛ زیرا در این حالت دسترسی جامعه علمی و عموم به اطلاعات حیاتی محدود میشود.
نتیجهگیری
انتشار «سول» نشان میدهد که صنعت هوش مصنوعی وارد مرحلهای شده که نیازمند شفافیت، استانداردهای ارزیابی مستقل و مشارکت گسترده جامعه علمی و نهادهای دولتی است. بدون ایجاد سازوکارهای قابلاعتماد و روشن برای ممیزی، صدور مجوز و نظارت بر مدلهای مرزی، تضارب منافع و ابهامهای کنونی میتواند هم ایمنی فناوری و هم پذیرش اجتماعی آن را به خطر اندازد.