گوگل راهکارهای امنیتی کروم برای کنترل «قابلیتهای عاملیتمحور» را تشریح کرد
گوگل در بحبوحه گسترش قابلیتهایی در مرورگرها که به نمایندگی از کاربر عمل میکنند — مانند خرید آنلاین یا رزرو بلیت — رویکرد خود برای کاهش ریسکهای امنیتی و حفظ حریم خصوصی کاربران کروم را تشریح کرد. این توانمندیها که بهعنوان «قابلیتهای عاملیتمحور» شناخته میشوند، میتوانند تجربه کاربری را سادهتر کنند، اما در عین حال خطرات بالقوهای مثل نشت داده یا از دست رفتن مالی را نیز افزایش میدهند. در ادامه مهمترین مکانیسمهای حفاظتی اعلامشده توسط گوگل را مرور میکنیم.
چطور گوگل اقدامات عاملها را کنترل میکند؟
– مدلهای ناظر (Observer Models): گوگل از چند مدل جداگانه برای نظارت بر رفتار عاملها استفاده میکند تا از تولید عملیات نامناسب جلوگیری شود. یکی از این مدلها «منتقد ترازِ کاربر» (User Alignment Critic) است که با استفاده از مدل Gemini طراحی شده و برنامه عملیاتی (planner) پیشنهادی برای هر وظیفه را بررسی میکند. اگر منتقد تشخیص دهد طرح پیشنهادی با هدف کاربر همراستا نیست، از مدل برنامهریز میخواهد راهبرد خود را بازاندیشی کند. نکته مهم این است که منتقد فقط به متادادههای عملیات پیشنهادی دسترسی دارد و محتوای واقعی صفحات وب را نمیبیند تا از افشای اطلاعات حساس جلوگیری شود.
-
مجموعه مبدأهای عامل (Agent Origin Sets): برای جلوگیری از دسترسی عاملها به سایتهای نامطمئن یا غیرمجاز، گوگل دسترسی مدل را محدود به «مبدأهای فقطخواندنی» و «مبدأهای خواندنی-نوشتنی» کرده است. مبدأ فقطخواندنی شامل محتوایی است که مدل مجاز به خواندن آن است (مثلاً فهرست محصولات مرتبط با خرید)، اما تبلیغات بنری یا محتوای نامرتبط جزو این مجموعه نیستند. علاوه بر این، عامل تنها میتواند در برخی iframeهای مشخص صفحه کلیک یا تایپ کند؛ این تفکیک جلوی نشت دادههای بینمبنایی را میگیرد و به مرورگر امکان میدهد حتی دادههای خارج از مجموعهٔ خواندنی را به مدل نفرستد.
-
نظارت بر ناوبری و بررسی URLها: گوگل با یک مدل ناظر دیگر، URLها و مسیرهای ناوبری پیشنهادی را بررسی میکند تا از هدایت کاربر به صفحات مخرب یا آدرسهای ساختهشده توسط مدل جلوگیری شود.
اولویت دادن به رضایت و کنترلی کاربر
– اجازهگیری برای امور حساس: برای وظایف حساس مانند ورود به سامانههای بانکی یا دسترسی به اطلاعات پزشکی، عامل ابتدا از کاربر اجازه میگیرد. در مواردی که سایت نیاز به ورود کاربر دارد، کروم قبل از استفاده از مدیریتکننده رمز عبور از کاربر اجازه میخواهد و گوگل تأکید کرده که مدل عامل به دادههای رمز عبور دسترسی مستقیم ندارد.
- تأیید پیش از اقدامهای مهم: هرگونه اقدام دارای پیامد مالی یا اجتماعی (مثلاً خرید اینترنتی یا ارسال پیام) مستلزم تأیید صریح کاربر خواهد بود.
سایر مکانیسمهای ایمنی
– تشخیص تزریق پرامپت (Prompt-Injection): گوگل از یک طبقهبند برای شناسایی و جلوگیری از حملات تزریق فرمان استفاده میکند تا عاملها دستورات ناخواسته را اجرا نکنند.
- آزمونهای امنیتی و همکاری با پژوهشگران: گوگل قابلیتهای عاملیتمحور را در برابر حملات طراحیشده توسط محققان آزمایش میکند تا نقاط ضعف شناسایی و برطرف شوند.
رقابت و تلاشهای دیگر بازیگران اکوسیستم
علاوه بر گوگل، سایر سازندگان مرورگرهای هوش مصنوعی نیز روی امنیت عاملها متمرکز شدهاند. بهعنوان مثال، اوایل همین ماه Perplexity مدل متنباز جدیدی برای شناسایی محتوا عرضه کرد که هدفش جلوگیری از حملات تزریق پرامپت علیه عاملها است.
وضعیت انتشار و آینده
گوگل پیشنمایشی از قابلیتهای عاملیتمحور را در سپتامبر ارائه کرد و اعلام کرده این قابلیتها در ماههای آینده برای کاربران کروم منتشر خواهند شد. با توجه به مزایا و ریسکهای این فناوری، توجه ویژه به طراحی مکانیزمهای حفاظتی و محوریت تصمیمگیری کاربر، نقش کلیدی در پذیرش گسترده و ایمن این قابلیتها خواهد داشت.