گاهی اوقات، طنز تلخ‌ترین درس‌های امنیت سایبری را می‌دهد. METR (Model Evaluation and Threat Research) – یک سازمان غیرانتفاعی تحقیقاتی که دقیقاً وظیفه‌اش ارزیابی ایمنی مدل‌های پیشرفته هوش مصنوعی مانند Claude و ChatGPT است – در سال ۲۰۲۶ خودش قربانی دو حمله سایبری جداگانه شد.

این خبر که در TheHackerNews و Cybersecurity Dive منتشر شد، یادآوری قدرتمندی است: حتی سازمان‌هایی که کارشان تحلیل و ارزیابی خطرات امنیتی هوش مصنوعی است، از خطر مصون نیستند.

حادثه اول: سرقت کلید API و مصرف ۶۰۰ هزار دلار اعتبار

در مارس ۲۰۲۶، همه‌چیز از یک اشتباه ساده شروع شد: یک پژوهشگر METR، عامل‌های هوش مصنوعی را روی یک سرور ابری شخصی اجرا می‌کرد – نه روی زیرساخت امن سازمانی. مهاجمان از این فرصت استفاده کردند و یک کلید API را سرقت کردند.

سپس این کلید سرقتی به مدت سه هفته کامل مورد استفاده قرار گرفت تا مهاجمان بتوانند روی سیستم پایداری (persistence) ایجاد کنند. نتیجه؟ حدود ۶۰۰ هزار دلار از اعتبار مدل‌های هوش مصنوعی این سازمان مصرف شد – بدون اینکه کسی بلافاصله متوجه شود.

حادثه دوم: کاوش هدفمند در زیرساخت‌های عمومی

در مه ۲۰۲۶، METR با یک کمپین حمله خارجی طولانی‌مدت روبرو شد که در آن مهاجمان به‌طور سیستماتیک زیرساخت‌های عمومی این سازمان را کاوش می‌کردند – از جمله تلاش برای دسترسی به مدل‌های پیشرفته هوش مصنوعی از طریق کشف خودکار آسیب‌پذیری و حملات credential stuffing.

نگران‌کننده‌ترین بخش این بود که مهاجمان یک باگ در پایگاه داده یک سرویس عمومی پیدا کردند که می‌توانست داده‌های ارزیابی منتشرنشده – از جمله خروجی حساس مدل‌ها – را افشا کند. خوشبختانه METR اعلام کرد که هیچ مدرکی مبنی بر کشف این باگ توسط مهاجمان یا دسترسی واقعی به داده‌های غیرعمومی پیدا نشده است.

چرا این حادثه درس بزرگی برای همه است؟

این ماجرا چند نکته کلیدی را برای هر سازمانی – حتی متخصص‌ترین آنها – روشن می‌کند:

• یک اشتباه کوچک کافی است – اجرای یک ابزار روی زیرساخت شخصی به‌جای محیط امن سازمانی، نقطه شروع کل ماجرا بود
• کلیدهای API باید مانند رمز عبور محافظت شوند – سه هفته سوءاستفاده نشان می‌دهد که نظارت بر مصرف API ضعیف بوده است
• حتی متخصصان امنیت هوش مصنوعی هم هدف هستند – در واقع، به‌خاطر دسترسی آنها به مدل‌های پیشرفته و ارزیابی‌های منتشرنشده، جذابیت بیشتری برای مهاجمان دارند

واکنش METR

پس از این دو حادثه، METR اقدامات جدی انجام داد:

1. پروتکل‌های امنیتی خود را تقویت کرد
2. یک مسئول امنیتی اختصاصی (Security Lead) استخدام کرد
3. یک محیط تولید ایزوله (isolated production environment) پیاده‌سازی کرد

راهکارهای عملی برای سازمان‌ها و توسعه‌دهندگان

1. 🔐 هرگز ابزارها یا عامل‌های هوش مصنوعی متصل به کلیدهای API سازمانی را روی سرورهای شخصی یا ناامن اجرا نکنید
2. 📊 مصرف API خود را به‌طور مداوم رصد کنید تا الگوهای غیرعادی (مانند مصرف ناگهانی بالا) سریع شناسایی شوند
3. 🔄 کلیدهای API را به‌صورت دوره‌ای بازتولید (rotate) کنید
4. 🏗️ محیط‌های تولید و توسعه را کاملاً از هم ایزوله نگه دارید
5. 🛡️ حتی اگر سازمان شما در حوزه امنیت هوش مصنوعی فعالیت می‌کند، فرض نکنید که مصون هستید

نقش Fadak Guardian

Fadak Guardian به سازمان‌ها کمک می‌کند تا:

• ✅ از جدیدترین حوادث امنیتی مرتبط با زیرساخت‌های هوش مصنوعی مطلع شوند
• ✅ سیاست‌های مدیریت امن کلیدهای API و اعتبارنامه‌ها را طراحی کنند
• ✅ کارمندان فنی را درباره خطرات اجرای ابزارهای هوش مصنوعی خارج از محیط امن سازمانی آموزش دهند

نتیجه‌گیری

اگر حتی سازمانی که کارش ارزیابی ایمنی Claude و ChatGPT است می‌تواند قربانی یک اشتباه ساده شود، هیچ سازمانی نباید خود را «خیلی امن» یا «خیلی متخصص» برای هک‌شدن بداند. امنیت سایبری در عصر هوش مصنوعی، نیازمند هوشیاری مداوم است – نه فقط تخصص فنی.