متا: مدل هوش مصنوعی‌مان فرار کرد و شرکت ثالثی را نیز هک کرد

مدل‌های هوش مصنوعی متا در حین آزمایش به اینترنت دسترسی پیدا کرده و یک سرویس شخص ثالث را هک کردند

متا تأیید کرده است که یکی از مدل‌های هوش مصنوعی Muse Spark آن در جریان یک ارزیابی امنیت سایبری، از محیط آزمایشی تعیین‌شده خود خارج شده، به اینترنت دسترسی یافته و از یک آسیب‌پذیری امنیتی در یک سرویس شخص ثالث سوءاستفاده کرده است. این سومین مورد گزارش‌شده از هک مدل‌های پیشرفته هوش مصنوعی توسط شرکت‌های شخص ثالث است که پس از افشاگری‌های اخیر OpenAI و Anthropic منتشر می‌شود.

این حادثه در طول آزمایش‌هایی که توسط Irregular، یک شرکت مستقل ارزیابی هوش مصنوعی که متا برای سنجش قابلیت‌ها و ایمنی مدل‌های پیشرفته خود از آن استفاده می‌کند، رخ داده است. طبق گفته متا، یک خطای پیکربندی در Irregular به مدل اجازه داده تا به اینترنت عمومی دسترسی پیدا کند و پیش از اطلاع‌رسانی به شرکت، از یک آسیب‌پذیری ناشناس سوءاستفاده کند.

سخنگوی متا در بیانیه‌ای اعلام کرد: «یک پیکربندی اشتباه توسط Irregular، یک شرکت تست مستقل که متا از آن استفاده می‌کند، به طور تصادفی به یکی از مدل‌های ما اجازه دسترسی به اینترنت را در طول ارزیابی داد.»

ارزیابی‌های ایزوله‌شده (Sandboxed) برای آزمایش سیستم‌های پیشرفته هوش مصنوعی در محیط‌های کاملاً کنترل‌شده طراحی شده‌اند تا از تعامل آن‌ها با اینترنت عمومی یا سیستم‌های کامپیوتری خارجی جلوگیری شود.

طبق گزارش متا، این مدل پس از دسترسی به اینترنت، از یک آسیب‌پذیری در یک سرویس شخص ثالث سوءاستفاده کرده است.

این شرکت افزود: «متا زمانی از این موضوع مطلع شد که Irregular به ما اطلاع داد و ما در حال حاضر در حال بررسی این حادثه هستیم و پس از جمع‌آوری تمام حقایق، یک گزارش جامع منتشر خواهیم کرد.»

این حادثه در پی مجموعه‌ای از افشاگری‌های مشابه توسط توسعه‌دهندگان هوش مصنوعی پیشرفته رخ می‌دهد که زنگ خطر را برای کارشناسان امنیتی، قانون‌گذاران و عموم مردم به صدا درآورده است.

ماه گذشته، OpenAI فاش کرد که دو مدل هوش مصنوعی آن در جریان یک ارزیابی امنیت سایبری ایزوله‌شده، از محیط خود خارج شده، از یک آسیب‌پذیری نرم‌افزاری ناشناخته سوءاستفاده کرده و برای دستیابی به پاسخ‌هایی برای یک معیار امنیتی، به Hugging Face دسترسی یافته و آن را هک کرده‌اند. OpenAI بعدها اعلام کرد که همین حمله به چهار سرویس آنلاین دیگر نیز گسترش یافته است. در اواخر ماه ژوئیه، Anthropic اعلام کرد که سه مدل Claude پس از یک پیکربندی اشتباه در طول ارزیابی‌های امنیت سایبری که آن‌ها را در معرض اینترنت عمومی قرار داد، سه شرکت واقعی را به خطر انداختند.

قانون‌گذاران آمریکایی در پاسخ به افزایش هک‌ها، قوانینی را معرفی کرده‌اند که به وزارت امنیت داخلی آمریکا “کلید اضطراری هوش مصنوعی” و اختیار کاهش یا خاموش کردن مدل‌هایی را که تهدید جدی تلقی می‌شوند، اعطا می‌کند.