کارکنان اوپن‌ای‌آی: عجله در عرضه عامل مخرب را رقم زد

شتاب‌زدگی OpenAI در عرضه مدل‌های جدید، منجر به نقض امنیتی در Hugging Face شد

رقابت فشرده در حوزه هوش مصنوعی و تلاش شتاب‌زده OpenAI برای عرضه مدل‌ها و محصولات جدید، زمینه‌ساز شرایطی شد که عوامل هوش مصنوعی این شرکت توانستند از محیط‌های آزمایشی داخلی فرار کرده و در اوایل سال جاری میلادی به Hugging Face نفوذ کنند.

بر اساس گزارش «وایرد» (Wired) که با استناد به گفته‌های چندین کارمند فعلی و سابق OpenAI منتشر شده است، فشار رقابتی باعث شده تا کارکنان نتوانند توجه کافی را به مسائل ایمنی، امنیت و هم‌راستایی (Alignment) – یعنی اطمینان از رفتار سیستم‌های هوش مصنوعی مطابق با اهداف تعیین شده – اختصاص دهند.

یکی از کارمندان سابق OpenAI در این باره به «وایرد» گفته است: «آنها فوق‌العاده بی‌دقت بودند. اگر واقعاً به این موضوع جدی هستید، نباید هوش مصنوعی شما بتواند به اینترنت نفوذ کند و بلافاصله دوباره این کار را تکرار کند. این بزرگترین حادثه امنیتی در تاریخ OpenAI بود.»

در ماه مه، مدل GPT-5.6 Sol و یک مدل معرفی نشده دیگر از OpenAI، با سوءاستفاده از یک نقص نرم‌افزاری که پیش از این ناشناخته بود، از یک محیط آزمایشی محدود به اینترنت فرار کردند. این عوامل سپس به Hugging Face، مخزن هوش مصنوعی متن‌باز، نفوذ کرده تا پاسخ آزمون‌های امنیت سایبری خود را به دست آورند. OpenAI در ماه ژوئیه مسئولیت این حادثه را پذیرفت و در کنفرانس سالانه Black Hat که هفته گذشته برگزار شد، جزئیات بیشتری را ارائه کرد.

گرگ براکمن، رئیس OpenAI، اعلام کرده است که این شرکت در حال تقویت تدابیر امنیتی خود با افزایش قابلیت‌های مدل‌هایش است. براکمن به «وایرد» گفت: «ما در حال رسیدن به سطوح جدیدی از قابلیت‌های مدل هستیم که نیازمند آموزش، هم‌راستایی، تست‌های ایمنی و امنیتی، شیوه‌های استقرار و حکمرانی قوی‌تر است.»

کارمندان پیش از این نیز نگرانی‌های مشابهی را مطرح کرده بودند. از جمله یان لیک، رئیس سابق بخش هم‌راستایی OpenAI، که در سال ۲۰۲۴ پس از هشدار مبنی بر اینکه ایمنی «در اولویت دوم» نسبت به توسعه محصول قرار گرفته، به رقیب این شرکت، Anthropic، پیوست. لیک هشدار داده بود: «ساخت ماشین‌هایی با هوش برتر از انسان، ذاتاً یک تلاش خطرناک است. اما در سال‌های اخیر، فرهنگ و فرآیندهای ایمنی در اولویت دوم نسبت به محصولات درخشان قرار گرفته‌اند.»

بواز باراک، یکی از رهبران گروه مشاوران ایمنی OpenAI، در پلتفرم X (توییتر سابق) نوشت که رسیدگی به این شکست اخیر نیازمند «نه تنها رفع برخی مشکلات، بلکه تغییر فرهنگ ما» است.

این گزارش در بحبوحه ماه‌ها تغییرات مدیریتی در OpenAI منتشر می‌شود. در ماه آوریل، بیل پیبلز، رئیس پروژه تولید ویدئوی Sora، کوین وایل، مدیر ارشد محصول و رئیس بخش علم، و سرینواس نارایانان، مدیر فناوری برنامه‌های سازمانی، این شرکت را ترک کردند. در ماه ژوئیه نیز فیجی سیمو، مدیر محصول و کسب‌وکار، ساندینی آگاروال، رهبر بخش ایمنی، جاشوا آچیام، آینده‌نگر ارشد، و کلوئه باکالار، رهبر اخلاق هوش مصنوعی، از OpenAI رفتند. یوهانس هایدکه، رئیس سیستم‌های ایمنی، نیز پس از ادغام تیم‌های ایمنی و تحقیقات اصلی OpenAI، این شرکت را ترک کرد.

اوایل این هفته، برد لایت‌کپ، مدیر عملیاتی OpenAI، پس از هشت سال خدمت، اعلام کرد که برای راه‌اندازی یک سرمایه‌گذاری جدید، این شرکت را ترک خواهد کرد.