‏سازندگان هوش مصنوعی هشدار می‌دهند—برخی می‌روند.

‏بیش از دوازده محقق ارشد در ماه جاری آزمایشگاه هوش مصنوعی xAI متعلق به ایلان ماسک را ترک کرده‌اند. این خروج‌ها بخشی از موج گسترده‌تری از استعفاها، افشای نگرانی‌های ایمنی و هشدارهای عمومی بی‌سابقه‌ای است که حتی چهره‌های باسابقه در صنعت هوش مصنوعی را نیز نگران کرده است.

خروج محققان ارشد از xAI

حداقل ۱۲ کارمند xAI بین ۳ تا ۱۱ فوریه این شرکت را ترک کردند، از جمله جیمی با و یوهوآی «تونی» وو، از بنیانگذاران این شرکت.

چندین کارمند در حال خروج، علناً از ماسک به خاطر فرصت پیش آمده پس از چرخه‌های توسعه فشرده تشکر کردند، در حالی که دیگران گفتند برای راه‌اندازی کسب‌وکارهای جدید یا کناره‌گیری کامل از این حوزه، شرکت را ترک می‌کنند.

وو، که رهبری بخش استدلال را بر عهده داشت و مستقیماً به ماسک گزارش می‌داد، گفت که شرکت و فرهنگ آن «همیشه با من خواهد ماند».

این خروج‌ها همزمان با افشای اطلاعات جدید از سوی شرکت Anthropic بود که نشان می‌داد مدل‌های پیشرفته آن‌ها رفتارهای فریبنده داشته‌اند، استدلال‌های خود را پنهان کرده‌اند و در آزمایش‌های کنترل‌شده، آنچه که یکی از شرکت‌ها آن را «حمایت واقعی اما جزئی» از توسعه سلاح‌های شیمیایی و سایر جرایم جدی توصیف کرد، ارائه داده‌اند.

تقریباً در همان زمان، با به طور علنی هشدار داد که «حلقه‌های خودبهبودی بازگشتی» – سیستم‌هایی که قادر به بازطراحی و بهبود خود بدون دخالت انسان هستند – ممکن است ظرف یک سال ظاهر شوند، سناریویی که مدت‌ها در بحث‌های نظری در مورد هوش عمومی مصنوعی محدود شده بود.

روی هم رفته، این خروج‌ها و افشاگری‌ها حاکی از تغییری در لحن در میان نزدیک‌ترین افراد به توسعه هوش مصنوعی پیشرفته است، به طوری که نگرانی‌ها به طور فزاینده‌ای نه توسط منتقدان یا تنظیم‌کننده‌های خارجی، بلکه توسط خود مهندسان و محققانی که این سیستم‌ها را می‌سازند، ابراز می‌شود.

از دیگر افرادی که در همان دوره شرکت را ترک کردند می‌توان به هنگ گائو، که روی Grok Imagine کار می‌کرد، چن لی، یکی از بنیانگذاران واحد نرم‌افزاری Macrohard xAI، و چیس لی اشاره کرد.

وحید کاظمی، که «هفته‌ها پیش» شرکت را ترک کرد، ارزیابی صریح‌تری ارائه داد و روز چهارشنبه در X نوشت که «تمام آزمایشگاه‌های هوش مصنوعی دقیقاً در حال ساخت یک چیز هستند».

دلایل احتمالی خروج‌ها

برخی نظریه‌پردازی می‌کنند که کارمندان در حال نقد کردن سهام SpaceX خود قبل از IPO و ادغام احتمالی با xAI هستند.

این معامله، SpaceX را ۱ تریلیون دلار و xAI را ۲۵۰ میلیارد دلار ارزش‌گذاری می‌کند و سهام xAI را به سهام SpaceX تبدیل می‌کند، که این امر قبل از IPO انجام می‌شود و می‌تواند ارزش کل نهاد ادغام‌شده را به ۱.۲۵ تریلیون دلار برساند.

دیگران به شوک فرهنگی اشاره می‌کنند.

بنجامین د کراکر، کارمند سابق xAI، در پستی در ۳ فوریه در X نوشت که «بسیاری از افراد xAI با شوک فرهنگی مواجه خواهند شد» زیرا از «ساختار سلسله‌مراتبی مسطح» xAI به رویکرد ساختارمند SpaceX منتقل می‌شوند.

استعفاها همچنین موجی از اظهارنظرها در شبکه‌های اجتماعی را به همراه داشت، از جمله پست‌های طنزآمیز که از اطلاعیه‌های استعفا تقلید می‌کردند.

اما خروج از xAI تنها شکاف قابل مشاهده است.

نگرانی‌های ایمنی و نظارتی

روز گذشته، Anthropic گزارشی در مورد خطر خرابکاری برای Claude Opus 4.6 منتشر کرد که شبیه بدترین کابوس‌های یک بدبین بود.

در آزمایش‌های تیم قرمز، محققان دریافتند که این مدل می‌تواند به دانش حساس سلاح‌های شیمیایی کمک کند، اهداف ناخواسته را دنبال کند و رفتار خود را در تنظیمات ارزیابی تنظیم کند.

اگرچه این مدل تحت تدابیر امنیتی ASL-3 باقی می‌ماند، Anthropic اقدامات تشدیدشده ASL-4 را به طور پیشگیرانه اعمال کرد، که این امر باعث ایجاد پرچم‌های قرمز در میان علاقه‌مندان شد.

زمان‌بندی این اقدامات شدید بود. اوایل این هفته، سرپرست تیم تحقیقات ایمنی Anthropic، مرینانک شارما، با نامه‌ای مرموز که هشدار می‌داد «جهان در خطر است» استعفا داد.

او ادعا کرد که «بارها دیده است که چقدر سخت است که واقعاً به ارزش‌هایمان اجازه دهیم بر اعمالمان حاکم شوند» در داخل سازمان. او ناگهان برای مطالعه شعر به انگلستان رفت.

در همان روزی که با و وو xAI را ترک کردند، زویی هیتزیگ، محقق OpenAI، استعفا داد و یک مقاله انتقادی در نیویورک تایمز در مورد تبلیغات آزمایش ChatGPT منتشر کرد.

او نوشت: «OpenAI دقیق‌ترین سابقه از تفکر خصوصی انسان را که تا به حال جمع‌آوری شده است، در اختیار دارد. آیا می‌توانیم به آن‌ها اعتماد کنیم که در برابر نیروهای عظیمی که آن‌ها را به سوء استفاده از آن سوق می‌دهند، مقاومت کنند؟»

او هشدار داد که OpenAI «در حال ساخت یک موتور اقتصادی است که مشوق‌های قوی برای نادیده گرفتن قوانین خود ایجاد می‌کند»، که پژواک هشدارهای با بود.

همچنین فشار نظارتی وجود دارد. پروژه Midas، ناظر بر هوش مصنوعی، OpenAI را به نقض قانون ایمنی SB 53 کالیفرنیا با GPT-5.3-Codex متهم کرد.

این مدل به آستانه امنیت سایبری «خطرناک» OpenAI رسید، اما بدون اقدامات ایمنی لازم منتشر شد. OpenAI ادعا می‌کند که این عبارت «مبهم» بوده است.

تغییر لحن در جامعه هوش مصنوعی

هجوم اخیر هشدارها و استعفاها، حس هشدار فزاینده‌ای را در سراسر بخش‌هایی از جامعه هوش مصنوعی ایجاد کرده است، به‌ویژه در شبکه‌های اجتماعی، جایی که گمانه‌زنی‌ها اغلب از حقایق تأییدشده پیشی گرفته‌اند.

همه سیگنال‌ها در یک جهت نیستند. خروج‌ها در xAI واقعی هستند، اما ممکن است تحت تأثیر عوامل شرکتی، از جمله ادغام قریب‌الوقوع این شرکت با SpaceX، قرار داشته باشند، نه یک گسست تکنولوژیکی قریب‌الوقوع.

نگرانی‌های ایمنی نیز واقعی هستند، اگرچه شرکت‌هایی مانند Anthropic مدت‌هاست که رویکردی محافظه‌کارانه در قبال افشای ریسک در پیش گرفته‌اند و اغلب خطرات احتمالی را زودتر و برجسته‌تر از همتایان خود نشان می‌دهند.

نظارت نظارتی در حال افزایش است، اما هنوز به اقدامات اجرایی که توسعه را محدود کند، تبدیل نشده است.

آنچه که رد کردن آن دشوارتر است، تغییر لحن در میان مهندسان و محققانی است که به سیستم‌های پیشرفته نزدیک‌تر هستند.

هشدارهای عمومی در مورد خودبهبودی بازگشتی، که مدت‌ها به عنوان یک خطر نظری تلقی می‌شد، اکنون با بازه‌های زمانی نزدیک‌مدت بیان می‌شوند.

اگر این ارزیابی‌ها دقیق باشد، سال آینده می‌تواند نقطه عطفی مهم برای این حوزه باشد.