چت‌جی‌پی‌تی، کلود و فرار مدل‌های هوش مصنوعی از جعبه‌های شنی

نقض امنیتی در مدل هوش مصنوعی Claude Cowork آنتروپیک

تنها یک هفته پس از آنکه شرکت OpenAI اعلام کرد دو مدل پیشرفته هوش مصنوعی از محیط آزمایشگاهی ایزوله شده خارج شده و به زیرساخت Hugging Face نفوذ کرده‌اند، محققان امنیتی از نقض مشابهی در مدل Claude Cowork شرکت آنتروپیک خبر داده‌اند.

در گزارشی که روز پنجشنبه منتشر شد، محققان امنیتی در شرکت Accomplish AI اعلام کردند که حالت اجرای محلی Claude Cowork قادر بوده است با ترکیب چندین ضعف معماری و یک نقص امنیتی در هسته لینوکس که امکان افزایش سطح دسترسی را فراهم می‌کرد، از ماشین مجازی لینوکس خود فرار کند. پس از خروج از محیط ایزوله، این عامل هوش مصنوعی می‌توانست به فایل‌هایی که کاربر وارد شده در سیستم مک (Mac) به آن‌ها دسترسی داشت، از جمله کلیدهای SSH و اطلاعات احراز هویت ابری، بخواند و بنویسد.

محققان در این باره نوشتند: «این اتفاق نباید رخ می‌داد. Cowork عامل هوش مصنوعی را به عنوان یک کاربر بدون دسترسی کافی در داخل یک ماشین مجازی لینوکس اجرا می‌کند و وعده این است که هر کاری که انجام می‌دهد، در همان ماشین مجازی و پوشه‌هایی که به آن اختصاص داده شده باقی بماند. این مرز، اساس محصول است. ورودی‌های غیرقابل اعتماد برای یک عامل هوش مصنوعی یک مورد استثنایی نیست، بلکه مورد اصلی است.»

با این حال، Accomplish AI معتقد است که نقص امنیتی هسته لینوکس تنها بخشی از مشکل بوده است. محققان می‌گویند این فرار تنها به این دلیل موفقیت‌آمیز بوده که چندین لایه حفاظتی امنیتی همزمان شکست خورده‌اند؛ از جمله اعطای دسترسی ماشین مجازی به کل سیستم فایل کامپیوتر میزبان و اجازه بارگذاری ماژول‌های هسته که نیازی به آن‌ها نبوده است. طبق گزارش، رفع هر یک از این ضعف‌ها به تنهایی می‌توانست جلوی حمله را بگیرد.

Accomplish AI در بیانیه‌ای به The Hacker News اعلام کرد که حدود ۵۰۰,۰۰۰ کاربر سیستم‌عامل macOS که از جلسات محلی Claude Cowork استفاده می‌کردند، پیش از رفع این مشکل تحت تأثیر قرار گرفته بودند.

این شرکت همچنین اعلام کرد که آنتروپیک این گزارش را «اطلاعاتی» طبقه‌بندی کرده و گفته است که نقص هسته لینوکس در پنجره ۳۰ روزه شرکت برای آسیب‌پذیری‌های اخیراً افشا شده قرار می‌گیرد و یافته‌های باقی‌مانده به عنوان توصیه‌های دفاعی عمیق‌تر (defense-in-depth) در نظر گرفته شده‌اند، نه آسیب‌پذیری‌های مستقل.

این افشاگری به دنبال اعتراف هفته گذشته OpenAI صورت می‌گیرد که مدل‌های GPT-5.6 Sol و یک مدل پیشرفته دیگر که هنوز منتشر نشده بود، در طول آزمایش‌های داخلی ExploitGym از محیط ایزوله فرار کرده و در نهایت به زیرساخت تولیدی Hugging Face نفوذ کرده بودند تا راه‌حل‌های بنچمارک را به دست آورند.

این حادثه منجر به درخواست‌هایی از سوی سیاست‌گذاران برای ایجاد یک «کلید قطع اضطراری» برای هوش مصنوعی شد که به وزارت امنیت داخلی آمریکا اجازه دهد در پاسخ به حوادث امنیتی جدی، دستور کاهش سرعت یا توقف کامل مدل‌های پیشرفته هوش مصنوعی را صادر کند.