معرفی قابلیت جدید ChatGPT و چالش‌های امنیتی آن
شرکت OpenAI به تازگی ویژگی قدرتمند جدیدی را تحت عنوان “ChatGPT Agent” معرفی کرده است که با خود تعدادی از چالش‌های امنیتی و ریسک‌های مربوط به حریم خصوصی را به همراه دارد. این قابلیت به کاربران حقایق جدیدی را ارائه می‌دهد و به صورت اختیاری برای مشترکین پرداختی نظیر سایر ویژگی‌ها در دسترس است. کاربرانی که از این حالت استفاده می‌کنند، می‌توانند از ChatGPT بخواهند که به حساب‌های ایمیل و دیگر حساب‌های اینترنتی وارد شود، ایمیل‌ها را نوشته و به آن‌ها پاسخ دهد و همچنین فایل‌ها را دانلود، تغییر داده و ایجاد کند.
این امر نیاز به اعتماد کاربران به ChatGPT Agent را به شدت افزایش می‌دهد، چرا که کاربران باید اطمینان حاصل کنند که این عامل هوش مصنوعی هیچگونه رفتار ناپسند یا مشکل‌ساز انجام ندهد و اطلاعات حساس آن‌ها را فاش نکند. تحلیل‌ها نشان می‌دهد که این قابلیت نسبت به ChatGPT معمولی که نمی‌تواند به حساب‌های وب لاگین کند، ریسک‌های بیشتری را برای کاربر و کارفرمایشان به همراه دارد.
Keren Gu، یکی از اعضای تیم پژوهش امنیت OpenAI، در بیانیه‌ای در پلتفرم X اعلام کرده است که «ما قوی‌ترین تدابیر ایمنی را برای ChatGPT Agent فعال کرده‌ایم. این اولین مدلی است که ما آن را تحت چارچوب آمادگی خود به عنوان “قابلیت بالا” در زمینه زیست‌شناسی و شیمی طبقه‌بندی کرده‌ایم. این امر اهمیت زیادی دارد و ما به دنبال راه‌هایی برای حفظ ایمنی آن هستیم.»
در همین راستا، OpenAI تدابیر امنیتی گسترده‌ای را برای ChatGPT Agent تدارک دیده است. تیم‌ایمنی این شرکت با استخدام ۱۶ محقق دکتری در زمینه امنیت، به مدت ۴۰ ساعت به آزمایش این قابلیت پرداختند و در نتیجه این آزمایشات، هفت آسیب‌پذیری جهانی شناسایی شد که می‌تواند به خطر بیافتد. نتایج این آزمایشات به OpenAI کمک کرد تا پیش از عرضه نهایی، نقاط ضعف را برطرف کند.
ChatGPT Agent با بهبودهای امنیتی قابل توجهی معرفی شده است، از جمله ۹۵٪ کارایی در برابر حملات ناپسند بصری و شیمیایی و زیست‌شناختی قوی. تیم‌ایمنی OpenAI همچنین با تجزیه و تحلیل ۱۱۰ حمله مختلف، به داوری‌های جدیدی درباره رویکردهای امنیتی خود دست یافت. در این مسیر، OpenAI یک ساختار دو‌لایه بازرسی طراحی کرد که ۱۰۰٪ ترافیک تولید را در زمان واقعی تحت نظر قرار می‌دهد.
OpenAI به تازگی رویکرد خود را در زمینه امنیت بازتعریف کرده و سیستم‌هایی را ایجاد کرده است که بتواند با نواقص موجود در آزمون‌ها مبارزه کند. با توجه به آسیب‌پذیری‌های شناسایی شده، اقداماتی را جهت پیشگیری اجرای ضوابط جدید امنیتی به کار گرفته است.
این تحولات در حالی صورت می‌گیرد که نیاز به امنیت در زمینه هوش مصنوعی روز به روز بیشتر احساس می‌شود و OpenAI در تلاش است تا امنیت را در قلب عملکرد خود قرار دهد. نقشه راه جدیدی که از نتایج زمینۀ آزمایش‌ها به دست آمده، نشان می‌دهد که چگونه می‌توان با استفاده از شیوه‌های نادرست، آسیب‌پذیری‌ها را بررسی و کاهش داد.
در نهایت، ویژگی ChatGPT Agent نه تنها یک قابلیت جدید برای کاربران است، بلکه نمایانگر یک مرحله مهم در تحول عملیاتی OpenAI به سوی بالاترین استانداردهای امنیتی در حوزه هوش مصنوعی به حساب می‌آید.