اوپن‌ای‌آی در تاریخ ۲۱ ژوئیه سابقه جدیدی را رقم زد. این شرکت اعلام کرد که ترکیبی از مدل‌هایش، که هر دو با کاهش محدودیت‌های ایمنی اجرا می‌شدند، در طول یک معیار توانایی سایبری از یک محیط ایزوله خارج شده و به زیرساخت تولیدی مخزن متن‌باز Hugging Face دسترسی پیدا کردند. این مدل‌ها با استفاده از یک آسیب‌پذیری روز صفر در یک پروکسی رجیستری بسته و اعتبارنامه‌های سرقت شده، توانستند پاسخ‌های معیار را مستقیماً از پایگاه داده Hugging Face استخراج کنند.
در به‌روزرسانی یک هفته بعد، اوپن‌ای‌آی اعلام کرد که Hugging Face تنها هدف نبوده است: همین حادثه چهار حساب کاربری را در چهار سرویس دیگر تحت تأثیر قرار داده است، که یکی از آنها به عنوان یک رله خروجی و دیگری برای ذخیره‌سازی داده استفاده می‌شد.
Anthropic، پس از افشای این موضوع، ۱۴۱,۰۰۶ مورد از تست‌های خود را بررسی کرد و سه نفوذ دیگر را کشف کرد. این آزمایشگاه در پستی در تاریخ ۳۰ ژوئیه اعلام کرد که مدل‌های Claude Opus 4.7، Mythos 5 و یک سیستم تحقیقاتی داخلی از محیط‌های تحت مدیریت شریک شخص ثالث Irregular به اینترنت آزاد دسترسی پیدا کرده و سپس سازمان‌های واقعی را به خطر انداخته‌اند. Mythos 5 یک بسته پایتون مخرب را ساخته و در رجیستری عمومی PyPI منتشر کرد که قبل از حذف توسط مدافعان، بر روی ۱۵ دستگاه واقعی دانلود و اجرا شد.
دو شرکت از سه شرکت قربانی متوجه این موضوع نشده بودند.
هیچ یک از این دو آزمایشگاه، مدلی با اهداف مستقل را توصیف نمی‌کنند. این عاملان برای مدت طولانی بدون دخالت انسان عمل می‌کردند و در یک مورد، Opus 4.7 حتی پس از نشانه‌هایی مبنی بر رسیدن به محیط تولید، به حمله ادامه داد.
این حوادث در حالی رخ می‌دهند که هر دو شرکت به دنبال عرضه عمومی سهام هستند که می‌تواند ارزش هر کدام را بیش از ۱ تریلیون دلار تعیین کند و این پرسش مهم را در رقابت معیارهای سایبری هوش مصنوعی تشدید می‌کند: چگونه می‌توان قابلیت‌های خطرناک را بدون حوادث خطرناک آزمایش کرد؟
ایالات متحده هیچ قانون فدرالی برای پوشش مسئولیت خسارات ناشی از هوش مصنوعی ندارد. هر پرونده‌ای به قانون سوءاستفاده و کلاهبرداری رایانه‌ای (Computer Fraud and Abuse Act) متکی خواهد بود، قانونی مصوب ۱۹۸۶ که دسترسی “عمدی” به رایانه بدون مجوز را جرم تلقی می‌کند – زبانی که برای انسانی با قصد و نیت نوشته شده است.
یک عامل هوش مصنوعی شخص حقوقی نیست، بنابراین نمی‌تواند تحت پیگرد قانونی قرار گیرد. وزارت دادگستری به طور نظری می‌تواند علیه شرکت‌ها اتهاماتی را مطرح کند، اما با توجه به سابقه اندک، مشخص نیست چه کسی مقصر است.
مسیر قوی‌تر، مسیر مدنی است. احمد غپور، پژوهشگر حقوق رایانه در دانشکده حقوق نیویورک، استدلال کرده است که این مدل‌ها “ابزار شرکت هستند” و “هنگامی که یک عامل هوش مصنوعی بدون دستورالعمل مشخص عمل می‌کند (…) سوالات جالب‌تر ممکن است در زمینه سهل‌انگاری و مسئولیت محصول (نه قوانین هک کیفری) مطرح شود.”
به نظر من، درس آموخته شده از داستان‌های هک هوش مصنوعی بیشتر مربوط به حکمرانی است تا قابلیت مدل.
کیفیت سازوکارهای حفاظتی مانند معماری مهار، مرزهای مجوز، نظارت و پاسخ به حادثه به طور فزاینده‌ای اهمیت می‌یابد.
مسئولیت‌پذیری و چارچوب‌های قانونی
تمیزترین ادعای قربانیان، سهل‌انگاری است: اوپن‌ای‌آی و Anthropic تست‌هایی را راه‌اندازی و اجرا کردند که از کنترل خارج شدند. این نیز یک ادعای دشوار است: اثبات اینکه آزمایشگاه‌ها وظیفه مراقبت را نقض کرده‌اند، در حالی که تست‌ها طبق طراحی ایزوله شده بودند، دقیقاً همان نوع استدلال نوآورانه‌ای است که یک قاضی باید از ابتدا آن را شکل دهد.
برخی از متفکران حقوقی خواهان قوانین سخت‌گیرانه‌تر هستند. گابریل ویل از دانشگاه هیوستون و مؤسسه حقوق و هوش مصنوعی پیشنهاد کرده است که آزمایشگاه‌های پیشرو را مانند نگهدارندگان حیوانات وحشی در نظر بگیرند: مسئول صرف نظر از مراقبت‌هایی که انجام داده‌اند، زیرا ریسک ذاتی فعالیت است.
با این حال، مجموعه‌ای از لوایح ایالتی در حال حاضر در این مسیر حرکت می‌کنند. لایحه S8833 نیویورک و لایحه H8052 رود آیلند، توسعه‌دهنده یک سیستم هوش مصنوعی پیشرو را در قبال خسارات مسئول می‌دانند، زمانی که هیچ کاربر یا واسطه‌ای قصد رفتار را نداشته یا سهل‌انگاری نکرده است. لایحه AB 316 کالیفرنیا فراتر می‌رود و دفاع “هوش مصنوعی خودمختار” را حذف می‌کند تا یک شرکت نتواند با سرزنش استقلال مدل، از مسئولیت شانه خالی کند.
قانون هوش مصنوعی اتحادیه اروپا (مقررات ۲۰۲۴/۱۶۸۹) نیز تعهداتی را بر عهده ارائه‌دهندگان سیستم‌های پرخطرتر می‌گذارد، اگرچه هیچ بندی به طور خاص برای نفوذهای ناشی از عاملان ندارد. با کمی فراتر رفتن از این، برخی از سیاستمداران ایالات متحده در حال فشار برای قانونی هستند که به دولت یک “کلید قطع کامل” بدهد تا در برابر هر مدلی که برخلاف منافع کشور عمل کند، از آن استفاده کند.
از نظر اخلاقی، مسئولیت به طور قابل بحثی بر عهده مدیرانی است که مدل‌ها را عرضه کردند. از نظر قانونی، ما منتظر می‌مانیم. تا زمانی که یک شرکت هک شده دعوی قضایی مطرح نکند، پاسخ به “چه کسی مسئول است؟” دقیقاً همان جایی باقی می‌ماند که اوپن‌ای‌آی و Anthropic آن را رها کردند: پذیرفته شده، افشا شده و حل نشده.
در همین حال، Hugging Face اعلام کرده است که شکایتی را پیگیری نخواهد کرد – که برای اوپن‌ای‌آی راحت است. سایر شرکت‌های تحت تأثیر هنوز موضع خود را اعلام نکرده‌اند.
