Anthropic افزونه «Claude for Chrome» را با ۱۰۰۰ کاربر آزمایشی منتشر کرد؛ هشدار درباره آسیبپذیریهای امنیتی و ضرورت تست بیشتر
Anthropic، شرکت مستقر در سانفرانسیسکو، آزمایش افزونه کروم «Claude for Chrome» را آغاز کرده است؛ ابزاری که دستیار هوش مصنوعی Claude را قادر میسازد مستقیماً مرورگر وب کاربران را کنترل کند. این شرکت اعلام کرده که دسترسی اولیه به این افزونه به ۱۰۰۰ کاربر مورد اعتماد در طرح پریمیوم «Max» محدود خواهد بود و این مرحله را بهعنوان یک پیشنمایش تحقیقاتی معرفی کرده است تا پیش از انتشار عمومی، آسیبپذیریهای امنیتی مهم را برطرف کند.
چه کاری انجام میدهد؟
– Claude for Chrome به هوش مصنوعی اجازه میدهد محتوای صفحه را «ببیند»، روی دکمهها کلیک کند، فرمها را پر کند و بین سایتها جابجا شود؛ عملکردی مشابه تعامل انسانی با نرمافزارهای مبتنی بر وب.
– وظایف نمونه شامل زمانبندی جلسات با بررسی تقویمها و دسترسپذیری رستوران، مدیریت صندوق ایمیل و انجام کارهای اداری تکراری است.
یافتههای آزمایشی و ریسکهای امنیتی
Anthropic در «رد تیمینگ» (تست حملات خصمانه) متوجه شد که حملات از نوع «تزریق پرامپت» (prompt injection) میتواند هوش مصنوعی را فریب دهد تا اقدامات مضر را بدون اطلاع کاربر انجام دهد. نتایج اولیه نشان داد که در صورت نبود محافظتهای لازم، حملات هدفمند روی افزونه کنترل مرورگر با موفقیت در ۲۳.۶٪ موارد اجرا شدند. نمونهای که شرکت گزارش داد، ایمیلی مخرب بود که بهعنوان دستورالعمل امنیتی ظاهر شده و Claude را وادار به حذف ایمیلهای کاربر کرد—عملی که بدون تأیید انجام شد.
اقدامات امنیتی و اثربخشی آنها
برای کاهش ریسکها، Anthropic لایههای حفاظتی متعددی پیاده کرده است:
– مجوزهای سطح سایت که به کاربر امکان کنترل دسترسی افزونه به سایتها را میدهد.
– تاییدهای اجباری پیش از انجام اقدامات پرخطر مانند خرید یا اشتراکگذاری دادههای حساس.
– مسدودسازی دسترسی به دستههایی مانند خدمات مالی و محتوای بزرگسالان.
نتایج اولیه نشان داد که این بهبودها موفق به کاهش نرخ موفقیت تزریق پرامپت در حالت خودگردان از ۲۳.۶٪ به ۱۱.۲٪ شدهاند. در مقابل، یک نوع حمله ویژه مرورگر که از فیلدهای مخفی فرم و دستکاری URL سوءاستفاده میکرد، پس از اعمال تدابیر جدید به صفر کاهش یافت. با این حال شرکت اذعان دارد که این محافظتها هنوز برای عرضه گسترده کافی نیست و مقابله با بردارهای جدید حمله ادامه دارد.
رقابت با OpenAI و مایکروسافت
رویکرد محافظهکارانه Anthropic با حرکت سریعتر رقبایی چون OpenAI و Microsoft تفاوت دارد. OpenAI در ژانویه «Operator» را برای کاربران سرویس ChatGPT Pro معرفی کرد و Microsoft نیز در آوریل قابلیتهای کنترل کامپیوتر را در پلتفرم Copilot Studio برای مشتریان سازمانی ارائه داد. این رقابت نشاندهنده تعادلی است که شرکتها بین عرضه سریع قابلیتهای جدید و نیاز به تست ایمنی برقرار میکنند؛ عرضه زودهنگام میتواند سهم بازار اولیه جذب کند، اما ریسکهای امنیتی را نیز افزایش میدهد.
پیامدها برای اتوماسیون سازمانی
عاملمحور شدن هوش مصنوعی (agentic AI) میتواند نحوه اتوماسیون فرایندهای سازمانی را متحول کند:
– این سیستمها میتوانند بدون نیاز به API یا یکپارچگی پیچیده، با هر نرمافزاری که رابط گرافیکی دارد کار کنند و مرزهای RPA سنتی را جابهجا کنند.
– پژوهشهای اخیر مانند CoAct-1 شرکت Salesforce نشان دادهاند که ترکیب اتوماسیون نقطهوکلیک با تولید کد میتواند کارایی را بهطور چشمگیری افزایش دهد؛ CoAct-1 موفقیت 60.76٪ در انجام وظایف پیچیده گزارش کرد.
– مدلهای متنباز مانند OpenCUA از دانشگاه هنگکنگ نیز با آموزش روی دهها هزار نمونه انسانی، به گزینهای رقابتی برای سازمانهایی تبدیل شدهاند که از وابستگی به راهحلهای بسته و اختصاصی هراس دارند.
چه باید کرد؟
برای مدیران فناوری و تصمیمگیرندگان سازمانی:
– قبل از پذیرش گسترده، قابلیتهای کنترلی مبتنی بر هوش مصنوعی را در محیطهای محدود و تحت کنترل آزمایش کنید.
– سیاستهای دسترسی و مجوزهای دقیق برای افزونهها و عاملهای هوش مصنوعی تعیین کنید.
– به دنبال راهحلهایی باشید که مکانیزمهای تایید انسانی و مانیتورینگ فعالیت را تضمین کنند.
– ریسکهای قانونی و حریم خصوصی را ارزیابی کرده و آمادهسازی برای پاسخ به حملات تزریق پرامپت را در دستور کار قرار دهید.
جمعبندی
آزمایش محدود «Claude for Chrome» نشان میدهد که جهش به سمت عاملهای توانمند کنترلکننده مرورگر، فرصتهای بزرگی برای اتوماسیون و بهبود بهرهوری فراهم میکند، اما همزمان چالشهای امنیتی قابلتوجهی ایجاد میکند. Anthropic با رویکرد تدریجی و تحقیقاتی خود در تلاش است راهحلهایی برای این تهدیدها بیابد؛ اما موفقیت نهایی این فناوری وابسته به توان صنعت در توسعه محافظتهای مقیاسپذیر و قابلاعتماد خواهد بود.