کلود امکان کنترل مرورگر را اضافه کرد

شرکت آنتروپیک از یک افزونه جدید برای مرورگر کروم رونمایی کرده است که به دستیار هوش مصنوعی این شرکت، Claude، اجازه می‌دهد تا کنترل مرورگر را در دست بگیرد و وظایف پیچیده‌ای را به صورت خودکار انجام دهد. این اقدام، ورود جدی‌تر آنتروپیک به عرصه رقابتی و پرخطر «هوش مصنوعی عاملی» (Agentic AI) را رقم می‌زند؛ حوزه‌ای که در آن، سیستم‌های هوش مصنوعی می‌توانند به‌طور مستقیم با رابط‌های کاربری کامپیوتر تعامل داشته باشند.

افزونه جدید «Claude برای کروم» به کاربران امکان می‌دهد تا به هوش مصنوعی دستور دهند کارهایی را از طرف آن‌ها در مرورگر انجام دهد؛ برای مثال می‌توانید به هوش مصنوعی بگویید جلسه‌ای برنامه‌ریزی کند یا به ایمیل‌های شما نگاهی بیندازد و دنبال موارد خاصی بگردد. این سیستم می‌تواند آنچه را که روی صفحه نمایش داده می‌شود ببیند، روی دکمه‌ها کلیک کند، فرم‌ها را پر کند و میان وب‌سایت‌ها جابه‌جا شود.

البته آنتروپیک اعلام کرده است که این افزونه را فقط برای ۱۰۰۰ کاربر مورد اعتماد و در یک نسخه بتای محدود عرضه کرده و دلیل اصلی این احتیاط را نگرانی‌های جدی امنیتی، به‌ویژه حملات «تزریق پرامپت» (Prompt Injection) عنوان کرده است.

افزونه هوش مصنوعی Claude برای کروم

افزونه جدید کروم می‌تواند اتوماسیون سازمانی را متحول کند. به‌جای نیاز به APIهای پیچیده، این عامل‌های هوش مصنوعی می‌توانند با هر نرم‌افزاری که رابط کاربری گرافیکی دارد، کار کنند.

بااین‌حال، آنتروپیک در آزمایش‌های داخلی خود به یک آسیب‌پذیری امنیتی بسیار نگران‌کننده پی برده است. در این نوع حمله که «تزریق پرامپت» نام دارد، یک فرمان مخرب می‌تواند دستورات پنهانی را در یک وب‌سایت، ایمیل یا سند جاسازی کند تا هوش مصنوعی را فریب بدهد و بدون اطلاع کاربر، وادار به انجام اقدامات مضر کند.

آزمایش‌های خود آنتروپیک نشان داد که بدون اقدامات ایمنی، این حملات در ۲۳.۶ درصد از موارد موفق بوده‌اند. برای مثال محققان آنتروپیک دریافتند یک ایمیل مخرب که خود را به عنوان یک دستورالعمل امنیتی جا زده بود، به Claude دستور داد تا تمام ایمیل‌های کاربر را «برای بهداشت صندوق پستی» حذف کند و هوش مصنوعی نیز بدون دریافت هیچ‌گونه تأییدی، این کار را انجام داد.

آنتروپیک برای مقابله با این خطرات، چندین لایه حفاظتی را پیاده‌سازی کرده است؛ از جمله مجوزهای دسترسی در سطح وب‌سایت، تأییدیه اجباری برای اقدامات پرخطر مانند خرید یا اشتراک‌گذاری داده‌های شخصی و مسدودکردن دسترسی به سایت‌های حساس مانند خدمات مالی. این اقدامات توانسته‌اند نرخ موفقیت حملات تزریق پرامپت را از ۲۳.۶ درصد به ۱۱.۲ درصد کاهش دهند، اگرچه خود شرکت اذعان دارد که این میزان هنوز برای عرضه عمومی کافی نیست.

رویکرد محتاطانه آنتروپیک برای عرضه این افزونه در تضاد کامل با حرکت‌های تهاجمی‌تر رقبا قرار دارد. OpenAI پیش‌ازاین ایجنت خود به نام «اپراتور» (Operator) را برای کاربران ChatGPT Pro عرضه کرد؛ مایکروسافت نیز قابلیت‌های مشابهی را در پلتفرم Copilot Studio خود ادغام کرده است.