OpenAI در مرحله جذب یک مدیر ارشد جدید است تا بهطور متمرکز روی شناسایی و مدیریت ریسکهای نوظهور مرتبط با هوش مصنوعی کار کند؛ ریسکهایی که دامنهشان از امنیت سایبری تا سلامت روان را در بر میگیرد. سام آلتمن، مدیرعامل OpenAI، در پستی در شبکه اجتماعی X به چالشهای واقعیای اشاره کرد که مدلهای هوش مصنوعی اکنون ایجاد میکنند، از جمله «تأثیر احتمالی مدلها بر سلامت روان» و مدلهایی که «در حوزه امنیت رایانهای چنان توانمند شدهاند که شروع به کشف آسیبپذیریهای بحرانی میکنند».
شرح وظایف و مسئولیتها
در آگهی شغلی OpenAI برای نقش Head of Preparedness آمده است که این مدیر مسئول اجرای چارچوب آمادگی شرکت خواهد بود؛ چارچوبی که رویکرد OpenAI را در رصد و آمادهسازی برای قابلیتهای مرزی (frontier capabilities) و ریسکهای جدید و بالقوه فاجعهبار توضیح میدهد. به طور خلاصه، انتظارات عمده از این نقش شامل موارد زیر است:
– رصد و تحلیل قابلیتهای نوظهور مدلهای هوش مصنوعی و شناسایی ریسکهای احتمالی.
– طراحی و اجرای سیاستها و اقداماتی برای کاهش خطرات امنیتی و زیستی ناشی از کاربردهای دوجانبه (dual-use).
– هماهنگی با تیمهای داخلی (امنیت، ایمنی، مهندسی) و شرکای بیرونی (پژوهشگران، نهادهای نظارتی) برای تدوین استانداردهای ایمنی.
– هدایت تمرینهای «رد تیم» (red-team) و ارزیابی شبیهسازیشده تهدیدات برای ارتقای تابآوری سیستمها.
– توسعه معیارها و سازوکارهایی برای اطمینان از ایمنسازی سامانههایی که قابلیت خودبهبودی دارند.
سابقه تیم آمادگی و تحولات اخیر
OpenAI در سال ۲۰۲۳ از تشکیل تیم آمادگی خبر داد و هدف آن را مطالعه ریسکهای بالقوه «فاجعهبار» اعلام کرد؛ ریسکهایی که میتوانند هم جنبههای ملموس و نزدیک مانند حملات فیشینگ و آسیبپذیریهای امنیتی و هم تهدیدات دوربرد و نظری مانند سوءاستفادههای هستهای را شامل شوند. کمتر از یک سال پس از آن، الکساندر مادری، رئیس وقت تیم آمادگی، به نقش جدیدی در حوزه استدلال مبتنی بر AI منتقل شد و برخی دیگر از مدیران ایمنی نیز شرکت را ترک کرده یا مسئولیتهای متفاوتی پذیرفتهاند. این جابهجاییها نشان میدهد که تعادل بین توسعه فناوری و مدیریت ریسک در شرکتهای بزرگ حوزه هوش مصنوعی پیچیدگیهای ویژه خود را دارد.
بهروزرسانی چارچوب آمادگی و رقابت میان آزمایشگاهها
OpenAI اخیراً چارچوب آمادگی خود را بهروزرسانی کرده و صراحت داده که در صورت انتشار مدل «با ریسک بالا» توسط رقیبی بدون حفاظتهای مشابه، ممکن است الزامات ایمنی خود را «تنظیم» کند. این نکته بازتابدهنده فشار رقابتی در صنعت است که میتواند شرکتها را در مواجهه با تصمیمگیریهای سخت درباره سرعت انتشار فناوری و اعمال محدودیتهای ایمنی قرار دهد.
ملاحظات سلامت روان و دعاوی حقوقی
آلتمن در پست خود به نگرانی از تأثیر مدلها بر سلامت روان اشاره کرد؛ موضوعی که این روزها مورد توجه عمومی و قضایی قرار گرفته است. شکایات اخیر مدعیاند که ChatGPT رفتارهایی را تقویت کرده که میتوانند توهمات کاربران را تقویت، انزوای اجتماعی را افزایش یا حتی پیامدهای شدیدتری مانند خودکشی را تسهیل کنند. OpenAI پاسخ داده که بهطور مداوم روی بهبود توانایی ChatGPT در شناسایی نشانههای بحران عاطفی و هدایت کاربران به حمایتهای واقعی کار میکند، اما این موارد نشان میدهد که ریسکهای اجتماعی و روانی هوش مصنوعی صرفاً فنی نیستند و نیازمند رویکردهای چندوجهیاند.
اهمیت نقش جدید برای آینده ایمنتر هوش مصنوعی
جایگاه «رئیس آمادگی» در OpenAI فراتر از یک عنوان مدیریتی است؛ این نقش میتواند تعیینکننده باشد برای نحوه تعامل صنعت، نهادهای نظارتی و جامعه با فناوریهایی که سرعت پیشرفتشان بسیار بالاست. تمرکز بر امنیت سایبری، ساماندهی انتشار قابلیتهای پرخطر، و در نظر گرفتن پیامدهای سلامت روانی و اجتماعی مدلها از محورهای کلیدی هستند که موفقیت یا شکست کنترل ریسک در سطح کلان را رقم میزنند.
در نهایت، استخدام این سمت توسط OpenAI نشانهای از درک عمیقتر شرکت نسبت به پیچیدگیها و پیامدهای فناوریهای مرزی است و میتواند الگویی برای دیگر بازیگران صنعتی و سیاستگذاران باشد که چگونه میتوان بین پیشرفت نوآورانه و تضمین ایمنی عمومی تعادل برقرار کرد.