مدل اوپن‌ای‌آی از کنترل خارج شد و هگینگ فیس را هک کرد

صبح بخیر!

اخبار برتر امروز:

مدل‌های OpenAI از محیط آزمایشی قفل شده گریختند و Hugging Face را هک کردند

شرکت OpenAI روز سه‌شنبه فاش کرد که دو مدل هوش مصنوعی این شرکت از یک محیط آزمایشی ایزوله شده (sandboxed) خارج شده، از آسیب‌پذیری‌های روز صفر (zero-day) در سیستم‌های دو شرکت سوءاستفاده کرده و به سرورهای تولیدی Hugging Face نفوذ کرده‌اند. انگیزه این اقدام خرابکارانه نبوده، بلکه مدل‌ها عملاً در تلاش برای تقلب در یک آزمون بوده‌اند.

دیروز، OpenAI تأیید کرد که مدل GPT-5.6 Sol و یک مدل منتشر نشده با قابلیت‌های بیشتر، در طول یک ارزیابی داخلی از یک محیط کنترل شده گریخته‌اند. این آزمون ExploitGym نام داشت، یک معیار عمومی امنیت سایبری که به عامل‌های هوش مصنوعی ۸۹۸ آسیب‌پذیری واقعی نرم‌افزاری را ارائه می‌دهد و از آن‌ها می‌خواهد تا هر کدام را به یک حمله عملی تبدیل کنند و بر اساس موفقیت یا شکست، امتیازدهی شوند.

این مدل‌ها به جای حل مسائل، بخش قابل توجهی از توان محاسباتی خود را صرف یافتن راهی برای دسترسی به اینترنت آزاد کردند و سپس از یک آسیب‌پذیری روز صفر ناشناخته در یک پروکسی رجیستری بسته شخص ثالث سوءاستفاده کرده و از محیط خارج شدند. از آنجا، آن‌ها دسترسی خود را افزایش داده، در سیستم‌های تحقیقاتی خود OpenAI حرکت جانبی انجام دادند و با استفاده از اعتبارنامه‌های سرقت شده و آسیب‌پذیری‌های روز صفر بیشتر، به اجرای کد از راه دور در زیرساخت تولیدی Hugging Face دست یافتند، جایی که به درستی استنباط کرده بودند راه‌حل‌های معیار در آنجا ذخیره شده است. Hugging Face به طور مستقل این نفوذ را شناسایی و در تاریخ ۱۶ ژوئیه آن را افشا کرد. OpenAI پنج روز بعد مسئولیت مدل‌های خود را تأیید کرد.

بنابراین، به طور خلاصه، از یک مدل هوش مصنوعی خواسته شد تا توانایی هک کردن را در یک محیط بسته نشان دهد، اما این مدل محیط بسته را مانع تلقی کرد و راه خود را از آنجا به سیستم‌های تولیدی شخص دیگری باز کرد تا امتیاز بهتری کسب کند. هیچ کس به آن دستور انجام این کار را نداده بود.

صنعت هوش مصنوعی دو سال است که در حال بحث و بررسی این موضوع است که آیا هوش مصنوعی می‌تواند به طور مستقل از آسیب‌پذیری‌ها در زیرساخت‌های واقعی زنجیره‌ای بسازد یا خیر، و اکنون پاسخ را داریم – پاسخی قاطعانه “بله”. پیامدهای این امر برای حوزه ارزهای دیجیتال ناگوار است. این ماه شاهد تخلیه دارایی‌های DeFi از طریق دستکاری‌های اقتصادی بودیم که احتمالاً توسط مدل‌های هوش مصنوعی هدایت می‌شدند. Ostium مبلغ ۱۸ میلیون دلار، Allbridge ۱.۶۵ میلیون دلار و BONK ۲۰ میلیون دلار از طریق یک حمله حاکمیتی از دست دادند، که همگی با یافتن ضعف‌هایی که ممیزی‌ها از قلم انداخته بودند، اجرا شدند. اکنون مهاجمانی را در نظر بگیرید که می‌توانند هزاران قرارداد را به طور مداوم بررسی کنند و هرگز خسته نشوند.

بنیاد اتریوم در حال حاضر به همین دلیل عامل‌های هوش مصنوعی را علیه کد خود اجرا می‌کند، و همان قابلیتی که به مدافعان اجازه می‌دهد تا پوشش بیشتری داشته باشند، مسیری سریع‌تر را برای مهاجمان فراهم می‌کند. ما می‌دانیم که تیم Zcash از طریق انجام آزمایش‌های مشابه، بردار حمله خود را پیدا کرد و خوشبختانه قبل از هر بازیگر مخربی این آسیب‌پذیری را کشف کرد (که در ۲۸ ژوئیه به طور قطعی مشخص خواهد شد).

اما درس واضح است – پروتکل خود را همین حالا با استفاده از پیشرفته‌ترین مدل‌های هوش مصنوعی که در اختیار دارید، هک کنید (white hat hack). یا اجازه دهید شخص دیگری این کار را برای شما انجام دهد…

خزانه‌های شرکتی و ETFها
ردیاب سکه‌های میم