روند جدید و نگران‌کننده: تشخیص لوکیشن با ChatGPT
اخیراً یک روند نگران‌کننده در دنیای فناوری به‌سرعت در حال گسترش است: مردم از ChatGPT برای شناسایی مکان‌های نمایش داده شده در تصاویر استفاده می‌کنند. این هفته، OpenAI جدیدترین مدل‌های هوش مصنوعی خود، o3 و o4-mini را معرفی کرد که به طور منحصر به فردی قادر به “استدلال” در تحلیل تصاویر بارگذاری شده هستند. این مدل‌ها می‌توانند تصاویر را برش دهند، بچرخانند و به آن‌ها زوم کنند — حتی بر روی تصاویر مبهم و تحریف‌شده — تا به طور جامع آن‌ها را تحلیل کنند.
این قابلیت‌های تجزیه و تحلیل تصویر به همراه توانایی مدل‌ها برای جستجوی اطلاعات در اینترنت، ابزاری قدرتمند برای شناسایی مکان‌ها ایجاد کرده است. کاربران در شبکه اجتماعی X به‌سرعت متوجه شدند که o3 به‌خصوص در تشخیص شهرها، مکان‌های دیدنی و حتی رستوران‌ها و بارها از نشانه‌های بصری ظریف بسیار خوب عمل می‌کند.
با این حال، این نگرانی وجود دارد که این تکنولوژی ممکن است به نقض حریم خصوصی منجر شود. هیچ محدودیتی وجود ندارد که مانع از سوءاستفاده برخی افراد از این توانایی شود، به‌عنوان مثال از یک تصویر در استوری اینستاگرام برای شناسایی هویت فرد استفاده شود.
تحقیقات نشان می‌دهند که این امکان حتی قبل از معرفی مدل‌های جدید نیز وجود داشت. بررسی‌های انجام شده نشان داد که مدل‌های قدیمی‌تر نیز توانسته‌اند به طور دقیق مکان‌ها را شناسایی کنند. در یکی از آزمایش‌ها، هنگامی که تصویر یک سر کرگدن بنفش در یک بار کم‌نور ارائه شد، o3 به درستی آن را به یک بار در «ویلیامزبرگ» نسبت داد، در صورتی که مدل قدیمی‌تر، نتیجه دیگری را ارائه کرده بود.
در حالی که این فناوری مزایای زیادی دارد، اما به طور واضح خطرات و چالش‌های جدیدی نیز به همراه دارد. به نظر می‌رسد که در حال حاضر اقداماتی برای جلوگیری از نوعی «جستجوی معکوس مکان» در ChatGPT وجود ندارد و OpenAI در گزارش ایمنی خود به این موضوع اشاره‌ای نکرده است.
ما در تلاش هستیم تا با OpenAI تماس بگیریم و در صورت دریافت پاسخ، اطلاعات بیشتری ارائه خواهیم کرد.