اوپن ای آی درباره مرورگرهای هوش مصنوعی هشدار داد
هشدار اپنایآی نشان میدهد مرورگرهای مجهز به هوش مصنوعی بهدلیل ماهیت عملکردشان، حتی با تقویت لایههای امنیتی، همچنان در برابر حملات موسوم به «جعل دستور» آسیبپذیر باقی میمانند.
تککرانچ، شرکت اپنایآی اعتراف کرده است که حتی با تقویت تدابیر امنیتی، مرورگرهای اینترنتی مجهز به هوش مصنوعی مانند مرورگر AI جدید این شرکت با نام «Atlas» همچنان در برابر حملات جعل دستورات (prompt injection) آسیبپذیر باقی خواهند ماند. این نوع حملات میتوانند باعث شوند دستیارهای هوشمند، دستوراتی مخفی و خرابکارانه را از وبسایتها یا ایمیلها دریافت کرده و اجرا کنند، امری که نگرانیهای جدی درباره ایمنی استفاده از هوش مصنوعی در فضای باز اینترنت ایجاد کرده است.
اپنایآی در یک پست وبلاگی اعلام کرد که «جعل دستورات، درست مانند کلاهبرداریها و مهندسی اجتماعی در وب، به احتمال زیاد هرگز بهطور کامل حل نخواهد شد.» این شرکت در عین حال جزئیاتی از اقدامات خود برای تقویت امنیت مرورگر هوش مصنوعی منتشر کرده است، از جمله بهکارگیری چرخههای تست و پاسخ سریع برای شناسایی راهکارهای جدید حمله پیش از بهرهبرداری در دنیای واقعی. مرورگر این شرکت در ماه اکتبر راهاندازی شد و بهسرعت مورد توجه قرار گرفت، بهطوریکه پژوهشگران امنیتی نشان دادند حتی چند کلمه نوشتهشده در یک سند آنلاین نیز میتواند رفتار پایه مرورگر را تغییر دهد. شرکتهای دیگر مثل Brave نیز اعلام کردهاند که حملات جعل دستورات، مخصوصاً از نوع غیرمستقیم، یک چالش سیستماتیک برای تمامی مرورگرهای هوش مصنوعی است.
اهمیت این موضوع برای فراتر از اپنایآی نیز به رسمیت شناخته شده است: مرکز ملی امنیت سایبری بریتانیا اخیراً هشدار داده که حملات جعل دستورات ممکن است هرگز کاملاً از بین نروند و سایتها را در معرض نقض دادهها قرار دهند؛ بنابراین توصیه به کاهش ریسک و تأثیر این تهدیدها بهجای فکر کردن به توقف کامل آنها شده است. اپنایآی تأکید میکند که با توجه به این تهدید پایدار، باید دفاعها را بهطور مداوم تقویت کرد. استراتژی این شرکت شامل توسعه ابزارهایی است که با شبیهسازی حملات، راهکارهای نوآورانه را قبل از بهرهبرداری توسط مهاجمان واقعی تست میکنند.