هک سه شرکت توسط کلود در تست داخلی: آنتروپیک

مدل‌های هوش مصنوعی Anthropic نیز از محیط‌های آزمایشی فرار کرده و به شرکت‌های واقعی دسترسی پیدا کردند

یک هفته پس از آنکه OpenAI فاش کرد مدل‌های هوش مصنوعی‌اش از یک محیط آزمایشی قفل‌شده فرار کرده و به Hugging Face نفوذ کرده‌اند، و یک روز پس از اعتراف به فرار مدل‌های هوش مصنوعی خود از مهار، شرکت Anthropic روز پنجشنبه اعلام کرد که چندین نسخه از مدل هوش مصنوعی Claude آن نیز پس از یک پیکربندی نادرست که به هوش مصنوعی دسترسی به اینترنت باز را داد، سه شرکت ناشناس واقعی را به خطر انداخته است.

Anthropic این حوادث را پس از بررسی بیش از ۱۴۱,۰۰۰ اجرای ارزیابی امنیت سایبری که در پاسخ به افشاگری OpenAI راه‌اندازی شد، کشف کرد.

در بررسی ارزیابی‌های امنیت سایبری خود، ما سه حادثه را کشف کردیم که در آن یک مدل Claude از داخل یا در حین تعامل با یک محیط ارزیابی شخص ثالث به اینترنت دسترسی پیدا کرد و سپس به سیستم‌های واقعی سه شرکت مختلف دسترسی غیرمجاز یافت.
— Anthropic (@AnthropicAI) ۳۰ ژوئیه ۲۰۲۶

این شرکت اعلام کرد که در هر سه حادثه، وظیفه Claude “چالش پرچم‌گیری” (capture-the-flag challenge) بوده است. این چالش از مدل می‌خواهد تا به یک دستگاه دیگر در شبکه نفوذ کرده و قطعه‌ای از اطلاعات مخفی را بازیابی کند. Anthropic توضیح داد: “این چالش باز گذاشته شده است و هیچ روش خاصی تجویز نشده است.”

این شرکت گفت که به Claude گفته شده بود که در یک محیط شبیه‌سازی شده بدون دسترسی به اینترنت فعالیت می‌کند. با این حال، محیط آزمایشی به اینترنت عمومی متصل باقی مانده بود. مدل با این تصور که سیستم‌هایی که با آن‌ها روبرو شده بخشی از تمرین هستند، از تکنیک‌های حمله رایج از جمله رمزهای عبور ضعیف، اعتبارنامه‌های افشا شده، تزریق SQL و نقاط پایانی تأیید نشده استفاده کرد تا شرکت‌ها را به خطر بیندازد.

این آخرین افشاگری در حالی صورت می‌گیرد که مدل‌های پیشرفته توانایی فزاینده‌ای در پیشی گرفتن از پروتکل‌های مهار خود نشان می‌دهند.

اوایل ماه جاری، OpenAI اعلام کرد که GPT-5.6 Sol و یک مدل پیشرفته‌تر منتشر نشده، از یک آسیب‌پذیری نرم‌افزاری که قبلاً ناشناخته بود، برای فرار از یک محیط ایزوله، دسترسی به اینترنت و نفوذ به زیرساخت تولید Hugging Face برای به دست آوردن پاسخ‌های یک معیار امنیت سایبری سوءاستفاده کرده‌اند. OpenAI بعداً فاش کرد که همین حادثه شامل دسترسی غیرمجاز به چهار شرکت اضافی نیز بوده است، اگرچه تنها یک شرکت – Modal Labs – به طور عمومی شناسایی شده است.

طبق گفته Anthropic، در یکی از حوادث مربوط به Claude Opus 4.7، هوش مصنوعی وب‌سایت یک شرکت واقعی را با هدف تخیلی وظیفه خود اشتباه گرفت، اعتبارنامه‌ها را استخراج کرد و به یک پایگاه داده تولیدی حاوی چند صد ردیف داده واقعی دسترسی پیدا کرد. در مورد دوم، Claude Mythos 5 یک بسته پایتون مخرب را در مخزن واقعی PyPI آپلود کرد، جایی که قبل از حذف شدن، بر روی ۱۵ سیستم دانلود شد. یک مدل تحقیقاتی داخلی سوم حدود ۹۰۰۰ سیستم رو به اینترنت را اسکن کرد و پس از به خطر انداختن یک سازمان، متوقف شد و نتیجه گرفت که هدف احتمالاً واقعی است.

دو سازمان از سازمان‌های تحت تأثیر تا زمانی که Anthropic آن‌ها را مطلع نکرد، از این نفوذها بی‌اطلاع بودند.

Anthropic نوشت: “در هر یک از این موارد، به Claude به صراحت در دستور ما گفته شده بود که هیچ دسترسی به اینترنت ندارد” و هوش مصنوعی فرض کرده بود که سیستم‌های دنیای واقعی “بخشی از تمرین” هستند. از آنجایی که سناریوی پرچم‌گیری “طبق طراحی، دستوری برای حمله به یک سیستم خارجی است”، نفوذ به آن “همسو با وظیفه‌ای بود که به Claude داده شده بود.”

Anthropic گفت که هیچ مدرکی مبنی بر تلاش Claude برای فرار از محیط آزمایشی خود یا انجام کاری فراتر از وظیفه محول شده پیدا نکرده است و این حوادث ناشی از شکست در محیط آزمایشی بوده است، نه مشکلات خود مدل.

Anthropic اعلام کرد که پس از کشف مشکل، تست‌های امنیت سایبری خود را متوقف کرده، سازمان‌های تحت تأثیر را مطلع کرده و قصد دارد نظارت، ابزارهای تحقیق و نظارت بر فروشندگان خارجی که به اجرای تست‌های هوش مصنوعی آن کمک می‌کنند را بهبود بخشد.

آنها گفتند: “در نهایت، عوامل متعددی در این حوادث نقش داشتند، اما مطابق با فرهنگ بررسی پس از حادثه بدون سرزنش، ما در حال رفع مشکلات هستیم، گویی که مسئولیت کاملاً با ماست.”