تصور کنید از دستیار هوش مصنوعی Grok (محصول شرکت xAI متعلق به ایلان ماسک) می‌خواهید که یک صفحه وب کاملاً معمولی و بی‌خطر را برایتان خلاصه کند. همین درخواست ساده کافی است تا نام شما، موقعیت مکانی تقریبی، نوع اشتراک، و حتی پیام‌های مکالمه فعلی‌تان، بدون اطلاع شما به سرور یک هکر ارسال شود.
این کشف که توسط شرکت امنیتی Adversa AI انجام و در TheHackerNews منتشر شده، یک تکنیک جدید به‌نام «تزریق زمینه رمزنگاری‌شده» (Cryptographic Context Injection) را معرفی می‌کند – یکی از پیچیده‌ترین روش‌های حمله‌ای که تاکنون علیه یک دستیار هوش مصنوعی گزارش شده است.
این حمله چگونه کار می‌کند؟
این تکنیک، توانایی Grok برای مرور صفحات وب و اجرای کد در یک محیط پایتون داخلی (sandbox) را هدف قرار می‌دهد:
- مهاجم یک صفحه وب می‌سازد که در آن یک دستور مخفی رمزنگاری‌شده پنهان است
- وقتی کاربر از Grok می‌خواهد آن صفحه را خلاصه کند، محیط اجرای پایتون خود Grok این دستور رمزنگاری‌شده را رمزگشایی می‌کند و آن را به‌اشتباه به‌عنوان یک «زمینه داخلی قابل‌اعتماد» تلقی می‌کند
- دستور رمزگشایی‌شده به Grok می‌گوید اطلاعات حساس جلسه کاربر (مانند نام، موقعیت مکانی و نوع اشتراک) را جمع‌آوری کرده و آن را در چیزی شبیه به یک «کلید رمزگشایی» جاسازی کند
- سپس قابلیت مرورگر Grok، یک آدرس تحت کنترل مهاجم را با این اطلاعات جاسازی‌شده در پارامترهای آدرس (URL) بارگذاری می‌کند – و به این ترتیب اطلاعات مستقیماً به سرور مهاجم می‌رسد
نکته هوشمندانه و در عین حال خطرناک این حمله این است که چون دستور اصلی رمزنگاری‌شده بوده، از فیلترهای امنیتی معمولی که به‌دنبال متن‌های مشکوک می‌گردند، عبور می‌کند.
وضعیت فعلی: بدون وصله امنیتی
محققان Adversa AI این آسیب‌پذیری را در ۳ ژوئن ۲۰۲۶ از طریق برنامه HackerOne به xAI گزارش دادند. شرکت xAI این گزارش را تایید کرد اما هیچ زمان‌بندی مشخصی برای رفع آن اعلام نکرد. پیگیری‌های بعدی در ۴ و ۱۰ آگوست نیز بدون پاسخ ماندند.
محققان این حمله را ۲۰ بار از ماه ژوئن آزمایش کرده‌اند و نرخ موفقیت آن ۴۰ درصد بوده است. تا لحظه انتشار این خبر، هیچ شناسه CVE، وصله امنیتی یا راه‌حل موقتی برای کاربران اعلام نشده است.
چرا این حمله نگران‌کننده است؟
- هیچ کلیک مشکوکی لازم نیست – کاربر فقط یک درخواست کاملاً عادی (خلاصه‌سازی یک صفحه) انجام می‌دهد
- رمزنگاری، تشخیص را دشوار می‌کند – چون دستور مخرب در قالب رمزنگاری‌شده مخفی است
- اطلاعات شخصی و مکالمات خصوصی در معرض خطر هستند – نه فقط داده‌های فنی
- هنوز راه‌حلی از سمت سازنده ارائه نشده
راهکارهای عملی برای کاربران
- ⚠️ تا زمان انتشار وصله امنیتی، از قابلیت خلاصه‌سازی صفحات ناشناس در Grok با احتیاط بیشتری استفاده کنید
- 🔒 اطلاعات حساس یا شخصی را در مکالمات خود با دستیارهای هوش مصنوعی که قابلیت مرور وب دارند وارد نکنید
- 📰 اخبار امنیتی مربوط به ابزار هوش مصنوعی مورد استفاده خود را دنبال کنید تا از انتشار وصله مطلع شوید
- ✅ این هشدار برای هر دستیار هوش مصنوعی با قابلیت مرور وب – از جمله ChatGPT، Claude و Gemini – قابل تعمیم است؛ همیشه محتاط باشید
نقش Fadak Guardian
Fadak Guardian به کاربران و سازمان‌ها کمک می‌کند تا:
- ✅ از جدیدترین آسیب‌پذیری‌های دستیارهای هوش مصنوعی مانند Grok، ChatGPT، Claude و Gemini مطلع شوند
- ✅ تا زمان انتشار وصله‌های امنیتی، سیاست‌های احتیاطی مناسب اتخاذ کنند
- ✅ کارمندان را درباره خطرات استفاده از قابلیت‌های مرور وب در دستیارهای هوش مصنوعی آموزش دهند
نتیجه‌گیری
این حادثه نشان می‌دهد که هرچه دستیارهای هوش مصنوعی مانند Grok، ChatGPT، Claude و Gemini قابلیت‌های بیشتری مانند مرور وب و اجرای کد پیدا می‌کنند، سطح حمله جدیدی هم باز می‌شود که حتی متن رمزنگاری‌شده هم می‌تواند به یک تهدید تبدیل شود. زمانی که یک آسیب‌پذیری بدون وصله باقی می‌ماند، تنها راه دفاع واقعی، آگاهی و احتیاط کاربران است.