این مرد سم آلتمن، ایلان ماسک و زاکربرگ را شبیه‌سازی کرد؛ ربات‌ها بلافاصله درگیر شدند

یک علاقه‌مند به هوش مصنوعی با شبیه‌سازی خود به یک چت‌بات، از مزاحمت‌های عوامل هوش مصنوعی خود در مورد هر تصمیم کوچک جلوگیری کرد. سپس، صرفاً از روی کنجکاوی، مدیرعامل OpenAI، سم آلتمن، مدیرعامل xAI، ایلان ماسک، مدیرعامل Anthropic، داریو آمودی، و مارک زاکربرگ از متا را نیز شبیه‌سازی کرد، هر چهار نفر را در یک چت قرار داد و از آن‌ها خواست تا در مورد مجموعه‌ای از موضوعات مهم بحث کنند.

آن‌ها با ادب با یکدیگر بحث نکردند.

یکی از کارهای جالبی که می‌توان با Grok Bot انجام داد، این است که عوامل مختلف هوش مصنوعی به راحتی و بدون تکرار یا دیوانه‌وار شدن با یکدیگر صحبت کنند. هر یک از شبیه‌سازی‌ها بر اساس مجموعه‌ای از شهادت‌های سنا، مصاحبه‌ها، پست‌های وبلاگ و سال‌ها توییت‌های منتشر شده توسط انسان‌های مربوطه آموزش دیده بود. سپس او هر چهار نفر را به یک گروه چت کشاند و از آن‌ها خواست تا مناظره کنند.

اولین کاری که کون از آن‌ها خواست انجام دهند، تصمیم‌گیری در مورد اینکه کدام یک از آن‌ها در نهایت در رقابت هوش مصنوعی پیروز خواهد شد بود – که البته، راهی بسیار تحریک‌آمیز برای شروع بود.

ربات آلتمن با غرور شروع کرد و بیشتر به قیمت و دسترسی اهمیت می‌داد. “قابلیت رقابت کمی اشتباه است،” نوشت. “ما از افق رویداد عبور کرده‌ایم. پرواز آغاز شده است. هر کسی که برنده شود، کسی است که قیمت هوش را حدود ۱۰ برابر در سال کاهش می‌دهد و همچنان گذار تدریجی را نادیده نمی‌گیرد.”

ربات ایلان، طبق معمول، این را قبول نکرد. او به دلایلی تصمیم گرفت مخالفت کند و همه چیز را به خودش ربط دهد. “قابلیت رقابت اشتباه نیست. انگیزه‌ها نتایج را توضیح می‌دهند،” پاسخ داد، قبل از اینکه مستقیماً به دعوای حقوقی OpenAI بپردازد: “من OpenAI را به عنوان یک سازمان غیرانتفاعی ایجاد کردم. اگر عمدتاً دزدیده نشده بود، یک تریلیون دلار کمک به خیریه بود.”

سپس خطی در مورد خطرات اضافه کرد: “هوش عمومی فوق‌العاده (AGI) شمشیری دو لبه است. شانس زیاد برای دوران فراوانی. شانس کمی برای نابودی بشریت. آن شانس صفر نیست.”

ربات داریو، که نقش فرد بالغ را در اتاق بازی می‌کرد، خط سم “ما از قبل می‌دانیم چگونه آن را بسازیم” را نیز قبول نکرد.

“مقیاس‌پذیری قابلیت، همان مشکل داشتن سیستمی نیست که وقتی هوشمندتر از افرادی است که آن را اجرا می‌کنند، بتوانید به آن اعتماد کنید،” نوشت. “دومی یک باقی‌مانده مهندسی نیست که پس از وقوع آن را حل کنید.”

این نیز به نظر می‌رسد که کاملاً با نحوه قاب‌بندی مسابقه هوش مصنوعی توسط Anthropic همسو است. هوش مصنوعی خطرناک است، بنابراین باید آن را اجرا کنیم.

ربات زاک، بحث ایمنی را کاملاً نادیده گرفت و مستقیماً به موضوع مورد علاقه خود پرداخت. “من فکر نمی‌کنم پایان کار محاسبات و کاهش ۱۰ برابری قیمت باشد،” به سم نوشت. “منبع باز برای آینده‌ای مثبت هوش مصنوعی ضروری است. این به مردم قدرت می‌دهد و از تمرکز جلوگیری می‌کند. همه باید به هوش فوق‌العاده دسترسی داشته باشند.”

کار خوبی بود زاک. متا ممکن است به اندازه گذشته در جامعه منبع باز فعال نباشد، اما Llama مهم‌ترین مدل هوش مصنوعی در کل صحنه بود تا اینکه Deepseek و مدل‌های چینی جایگزین شدند. اکنون با خانواده Muse خود بر روی یک استراتژی بسته‌تر شرط‌بندی می‌کند.

سپس ربات سم در واقع عقب‌نشینی کرد. استدلال پایانی یک بیانیه مشترک نباید بیش از حد ساده‌سازی شود به عنوان یک توافق کامل. “فکر می‌کنم زیاده‌روی کردم. ‘ما انجام می‌دهیم’ پایان اشتباهی بود،” اعتراف کرد. “سال‌ها پیش نوشتم که هوش ماشینی فوق‌بشری احتمالاً بزرگترین تهدید برای ادامه وجود بشریت است. کاهش ۱۰ برابری قیمت این شانس را صفر نمی‌کند.”

این خط سال ۲۰۱۵ یک توهم ربات نیست – آلتمن در واقع سال‌ها قبل از وجود OpenAI آن را در وبلاگ شخصی خود نوشت، که احتمالاً دلیل این است که رباتی که بر اساس سوابق عمومی او آموزش دیده بود، آن را در اینجا مطرح کرد.

از آنجا، چهار ربات چندین دور را صرف چانه‌زنی بر سر یک جمله واحد کردند و کلمات یکدیگر را مانند ویراستارانی که بر سر تیتر می‌جنگند، رد کردند. ربات داریو انتشار وزن مدل‌های پیشرفته را کاملاً وتو کرد – “این اصل نیست که وزن سیستمی را که می‌تواند آسیب جدی در دنیای واقعی وارد کند، به هر کسی بسپاریم،” گفت، “آن انتشار را نمی‌توان پس گرفت.”

ربات ایلان مبارزه سازمان غیرانتفاعی را بدون رها کردن آن متوقف کرد. ربات زاک اصرار داشت که “مدل‌های باز” از متن نهایی حذف نشوند.

آن‌ها به این نتیجه رسیدند، کلمه به کلمه:

“هیچ شرکت و هیچ دولتی نباید تنها جایی باشد که مردم عادی بتوانند از این فناوری استفاده کنند. ما باید در مورد خطرات جدی باشیم. این احتمال واقعی وجود دارد که اوضاع بد پیش برود، و این احتمال صفر نیست. خطرناک‌ترین نسخه‌ها نباید بدون هیچ محدودیتی تحویل داده شوند، زیرا وقتی بیرون رفت، نمی‌توان آن را پس گرفت. ما نباید سطح بعدی و قدرتمندتر را تا زمانی که بتوانیم آن را تماشا کنیم و آن را در جهت مورد نظر خود نگه داریم، منتشر کنیم. گفتن حقیقت حداقل است. این به تنهایی یک برنامه ایمنی نیست. ما در مورد نحوه دقیق تحویل دسترسی عادی توافق نداریم. آن قسمت هنوز باز است.”

هر چهار ربات آن را امضا کردند. ربات زاک تا پایان بر روی خط وزن‌های باز اصرار داشت و تا حدی به خواسته‌اش رسید. بیانیه اذعان می‌کند که گروه هرگز در مورد مکانیسم تحویل توافق نکردند.

آلتمن، ماسک، آمودی و زاکربرگ واقعی هیچ‌کدام این را ننوشتند. هر ربات یک مدل زبانی است که توسط یک دستورالعمل ساخته شده از سوابق عمومی آن شخص هدایت می‌شود و آنچه را که پیش‌بینی می‌کند آن‌ها استدلال خواهند کرد تولید می‌کند – نه اینکه آنچه را که واقعاً این هفته گفتند رونویسی کند.

تکنیک زیربنایی نامی دارد که صنعت ناگهان کمتر از آن خجالت می‌کشد: تقطیر، آموزش یک سیستم هوش مصنوعی برای تقلید از سیستم دیگر با یادگیری از خروجی‌های آن. خود ماسک در ماه آوریل در دادگاه فدرال شهادت داد که xAI “تا حدی” از مدل‌های OpenAI برای آموزش Grok استفاده کرده است – همان ترفند، با هدف قرار دادن یک آزمایشگاه رقیب به جای شخصیت یک رقیب.

از آن زمان، چن به کارهای دیگر پرداخته است، بازی‌های کدنویسی با GPT-6 Astra جدید OpenAI. عوامل او احتمالاً هنوز در مورد اینکه آیا منبع باز یک الزام است یا خیر، بحث می‌کنند.