OpenAI به تازگی تصمیمی جنجالی اتخاذ کرده و یکی از ویژگیهای خود را که به کاربران ChatGPT این امکان را میداد تا گفتوگوهای خود را بهراحتی از طریق موتورهای جستجو مانند گوگل قابل جستجو کنند، بطور ناگهانی متوقف کرده است. این اقدام در پی انتقادات گستردهای که در شبکههای اجتماعی صورت گرفت، به سرعت انجام شد و بهخوبی نشاندهنده چالشهای جدی است که شرکتهای هوش مصنوعی در زمینه حریم خصوصی با آن مواجهاند.
این ویژگی که OpenAI آن را “یک آزمایش کوتاهمدت” توصیف کرده بود، به کاربران اجازه میدهد تا با اشتراکگذاری یک گفتوگو و تیک زدن یک گزینه، آن را قابل جستجو کنند. اما این تصمیم به سرعت با واکنش منفی جامعه کاربران روبرو شد، بهطوریکه هنگامی که افراد متوجه شدند میتوانند با استفاده از عبارت “site:chatgpt.com/share” در گوگل به گفتوگوهای کاربران دیگر دسترسی پیدا کنند، اینکه این مکالمات شامل درخواستهای شخصی و مسائل حساس میشد، نگرانکننده بود.
تیم امنیتی OpenAI در توضیح حذف این ویژگی گفت: “متوجه شدیم که این ویژگی فرصتهایی برای اشتراکگذاری اطلاعاتی که افراد نمیخواستند در دسترس قرار گیرد، ایجاد کرده بود.” این موضوع نشاندهنده این است که شرکتهای فعال در حوزه هوش مصنوعی باید در طراحی تجربه کاربری خود دقت بیشتری داشته باشند.
این اتفاق نه تنها OpenAI، بلکه سایر شرکتهای بزرگ هوش مصنوعی را نیز تحت فشار قرار داده و باعث بروز نگرانیهای مشابه در دیگر غولهای فناوری، مانند گوگل و متا، شده است. در حالی که این شرکتها سعی دارند به نوآوری و ارائه خدمات جدید بپردازند، نیاز به حفظ حریم خصوصی کاربران همچنان یک چالش جدی باقی میماند.
برای استفادهکنندگان تجاری، این حادثه سؤالات مهمی را در مورد اعتماد به ارائهدهندگان خدمات هوش مصنوعی ایجاد میکند. شرکتها باید از ارائهدهندگان خود پاسخهای واضحی درباره حاکمیت دادهها و شیوههای مربوط به حریم خصوصی طلب کنند. مسائلی از جمله اینکه در چه شرایطی گفتوگوها ممکن است در دسترس اشخاص ثالث قرار بگیرد، کنترلهای موجود برای جلوگیری از فاش شدن ناخواسته اطلاعات و شدت واکنشها به حوادث حریم خصوصی بسیار حائز اهمیت است.
در نهایت، این حادثه اهمیت سرمایهگذاری در طراحی کنترلهای حریم خصوصی مناسب و واکنش سریع به مشکلات را نشان میدهد. همانطور که قابلیتهای هوش مصنوعی روز به روز بیشتر میشود، شرکتها باید نشان دهند که میتوانند مسئولانه نوآوری کنند و حریم خصوصی و امنیت کاربران را در مرکز فرایند توسعه محصولات خود قرار دهند. در این شرایط، آیا صنعت هوش مصنوعی میتواند از این هشدار بزرگ بهرهبرداری کرده و از وقوع مجدد چنین حوادثی جلوگیری کند؟