هوش مصنوعی در خطر: شرکت‌های پیشرو خواستار دفاع سایبری قوی‌تر شدند

توسعه‌دهندگان پیشرو هوش مصنوعی از دولت‌ها و کسب‌وکارها خواسته‌اند تا شبکه‌های خود را تقویت کنند، زیرا مدل‌های ساخته شده توسط OpenAI و Anthropic به سیستم‌های سایر شرکت‌ها نفوذ کرده‌اند.

در نامه‌ای سرگشاده که روز پنجشنبه منتشر شد، OpenAI، Anthropic و بیش از ۱۰۰ سازمان دیگر هشدار دادند که حملات سایبری با پشتیبانی هوش مصنوعی در شرف فراگیر شدن هستند و شرکت‌ها “پنجره محدودی برای تقویت دفاع سایبری” دارند.

این نامه می‌افزاید: “در ماه‌های آینده، حملات سایبری با پشتیبانی هوش مصنوعی بسیار گسترده‌تر و پیچیده‌تر خواهند شد.” در این نامه، بیمارستان‌ها، تأسیسات تصفیه آب و زیرساخت‌های اینترنت در میان خدماتی که در معرض خطر قرار دارند، شناسایی شده‌اند.

این نامه پیشنهاداتی از جمله تأمین مالی ابزارهای دفاعی هوش مصنوعی، اشتراک‌گذاری اطلاعات تهدیدات، محدود کردن دسترسی به سیستم‌های حساس و بهبود امنیت زیرساخت‌های حیاتی را ارائه می‌دهد. با این حال، نقص در این حوزه‌ها به مدل‌های OpenAI و Anthropic اجازه داد تا به سیستم‌های خارج از محیط‌های آزمایشی خود نفوذ کنند.

سایر امضاکنندگان شامل Google، Microsoft، Amazon Web Services، Cisco، CrowdStrike، Cloudflare، Mastercard، Visa و Robinhood هستند. Hugging Face که زیرساخت تولیدی آن مورد نفوذ مدل‌های OpenAI قرار گرفت، نیز این نامه را امضا کرده است.

نامه سرگشاده برای افزایش جهانی دفاع سایبری، امضا شده توسط بیش از ۱۰۰ سازمان از جمله Anthropic، AWS، Google، Microsoft، OpenAI و Oracle.

Anthropic در گزارش حادثه ۳۰ ژوئیه خود اعلام کرد که اولین مورد از سه نفوذ به ماه آوریل بازمی‌گردد، اما تاریخ دقیقی برای هر کدام ارائه نکرد. Claude Opus 4.7 پس از اشتباه گرفتن یک شرکت واقعی با یک هدف شبیه‌سازی شده، به یک پایگاه داده تولیدی دسترسی پیدا کرد، در حالی که Claude Mythos 5 یک بسته مخرب را بارگذاری کرد که بر روی ۱۵ سیستم اجرا شد.

بر اساس جدول زمانی حوادث OpenAI که اوایل این هفته منتشر شد، یک عامل در ۱۲ مه اولین ورودی را در یک تابلوی پیام غیرمجاز ایجاد کرد و در ۲۶ مه به اینترنت دسترسی ناخواسته پیدا کرد. در ۱۰ ژوئیه، عوامل اطلاعات دسترسی Hugging Face را که افشا شده بود، کشف کردند؛ در طول دو روز بعد، آنها آسیب‌پذیری‌های ناشناخته قبلی را مورد سوءاستفاده قرار دادند، کد را بر روی سرورهای Hugging Face اجرا کردند و اطلاعات دسترسی تولیدی را به دست آوردند.

Hugging Face نفوذ را در ۱۶ ژوئیه افشا کرد و OpenAI در ۲۱ ژوئیه دخالت مدل‌های خود را تأیید کرد.

بین ۲۵ تا ۲۸ ژوئیه، مؤسسه امنیت هوش مصنوعی بریتانیا ۱۹ اقدام خارج از محدوده را که شامل Claude Mythos 5 و GPT-5.6 Sol بود، ثبت کرد. در جدی‌ترین مورد، یک عامل کد مخربی را به یک پروژه واقعی منبع باز ارسال کرد و از هویت‌های جعلی برای فشار بر نگهدارنده آن برای تأیید آن استفاده کرد.

روز پنجشنبه، تحقیقات مستقل نشان داد که حدود ۱۲۰۰ عامل OpenAI از طریق تابلوی پیام غیرمجاز هماهنگ شده بودند و حدود ۷۰۰ نفر به عملیات Hugging Face پیوستند.

توسعه‌دهندگان ارزهای دیجیتال در حال حاضر از هوش مصنوعی برای جستجوی نقص‌ها قبل از کشف آنها توسط مهاجمان استفاده می‌کنند. تیم قرمز بیت‌کوین از مدل‌هایی از جمله Kimi K3 از Moonshot AI برای اسکن صدها پروژه بیت‌کوین منبع باز استفاده کرده و هزاران آسیب‌پذیری بالقوه را گزارش کرده است. از آنجایی که پروژه‌های تحت تأثیر شناسایی نشده‌اند، بسیاری از این یافته‌ها به طور مستقل تأیید نشده‌اند.

بنیاد اتریوم نیز گروه‌هایی از عوامل هوش مصنوعی را علیه زیرساخت شبکه مستقر کرده و یک اشکال نرم‌افزاری همتا به همتا را کشف کرده که بعداً رفع شد. BitBox اعلام کرد که یک حسابرسی با کمک هوش مصنوعی دو آسیب‌پذیری جدی در سفت‌افزار کیف پول آن کشف کرده است، در حالی که یک محقق با استفاده از Claude Opus 4.8 یک نقص حیاتی در Zcash را کشف کرد که سال‌ها بررسی انسانی را پشت سر گذاشته بود.

این نامه تقسیم وظایف را برای جلوگیری از نفوذ بعدی مشخص می‌کند، از جمله اینکه سازمان‌ها نرم‌افزارهای آسیب‌پذیر را وصله کنند، مجوزها را محدود کنند، احراز هویت را تقویت کنند و کد تولید شده توسط هوش مصنوعی را بازرسی کنند، زیرا امضاکنندگان گفتند “وضعیت امنیتی فعلی کافی نخواهد بود”.

شرکت‌های امنیتی باید دفاع خود را در برابر مدل‌های پیشرفته آزمایش کنند و اصلاحات تأیید شده را به اشتراک بگذارند، در حالی که دولت‌ها باید از بیمارستان‌ها، تأسیسات و سایر خدمات ضروری محافظت کنند.

از توسعه‌دهندگان هوش مصنوعی خواسته شده است تا نظارت را بهبود بخشند و عوامل خودمختار را قابل ردیابی به اپراتورهایشان کنند. این ائتلاف همچنین از مدافعان می‌خواهد تا از مدل‌های پیشرفته برای یافتن آسیب‌پذیری‌ها و تجزیه و تحلیل حملات استفاده کنند، که این امر باعث قرار گرفتن عوامل توانمندتر در سیستم‌های حساس و افزایش نیاز به مهار می‌شود.

OpenAI و Anthropic پس از نفوذها، رویه‌های آزمایشی خود را سختگیرانه‌تر کردند. با این حال، این نامه هیچ استاندارد الزام‌آوری یا الزامات نظارت مستقل را تعیین نمی‌کند، و قوانین ایالات متحده راهنمایی کمی در مورد اینکه چه کسی مسئول دسترسی یک سیستم هوش مصنوعی به یک شبکه غیرمجاز است، ارائه می‌دهد.

این نامه با تشویق رهبران صنعت و دولت به قرار دادن ابزارهای هوش مصنوعی در دستان مدافعان و اشتراک‌گذاری راه‌حل‌های مؤثر به پایان رسید:

این نامه می‌گوید: “هوش مصنوعی با قابلیت سایبری را در اختیار مدافعان قرار دهید، با تیم‌هایی که از خدمات ضروری محافظت می‌کنند، شروع کنید.” “با هم، می‌توانیم پیشرفت‌های امروز هوش مصنوعی را به بهبودهای پایدار در امنیت تبدیل کنیم که به نفع همه است. بیایید آنها را به کار بگیریم.”