‏هکر مشهور آیفون و سونی: دستیاران کدنویسی هوش مصنوعی فاجعه‌بارند.

‏جورج هاتز، هکری که در سن ۱۷ سالگی آیفون را هک کرد و پلی‌استیشن ۳ را مهندسی معکوس کرد (پیش از آنکه سونی از او شکایت کند)، روز یکشنبه در یک پست وبلاگی استدلال کرد که پذیرش گسترده‌ی عوامل کدنویسی هوش مصنوعی به فاجعه یا حداقل چیزی نزدیک به آن منجر خواهد شد.

“هاتز” نوشت: “من همین الان اعلام می‌کنم، پذیرش عوامل هوش مصنوعی در توسعه‌ی نرم‌افزار یکی از پرهزینه‌ترین اشتباهات در تاریخ این حوزه خواهد بود.” او افزود: “عوامل نمی‌توانند برنامه‌نویسی کنند و درک این موضوع زمان بیشتری می‌برد.”

وی ادامه داد: “خروجی خراب است، اما به گونه‌ای که تشخیص آن دشوارتر و دشوارتر می‌شود. این دقیقاً همان چیزی است که از یک مدل آماری فزاینده دقیق انتظار می‌رود.”

این پست با عنوان “Sloptember ابدی” پنج روز پس از آن منتشر شد که آندری کارپاتی، یکی از برجسته‌ترین محققان هوش مصنوعی، با این دیدگاه صریح که عوامل هوش مصنوعی در حال حاضر توسعه‌ی نرم‌افزار را متحول کرده‌اند، به تیم پیش‌آموزش Anthropic پیوست. این دو نفر اکنون دو قطب مخالف یک بحث را نمایندگی می‌کنند که صنعت هنوز آن را حل نکرده است – و هر دو اعتبار واقعی برای موضع‌گیری دارند.

به‌روزرسانی شخصی: من به Anthropic پیوستم. فکر می‌کنم چند سال آینده در خط مقدم LLMها (مدل‌های زبانی بزرگ) به‌ویژه شکل‌دهنده خواهد بود. من بسیار هیجان‌زده‌ام که به تیم اینجا بپیوندم و به تحقیق و توسعه بازگردم. من همچنان عمیقاً به آموزش علاقه‌مندم و قصد دارم کارم را در این زمینه در زمان مناسب از سر بگیرم.
— آندری کارپاتی (@karpathy) ۱۹ مه ۲۰۲۶

هاتز به این نتیجه‌گیری از حاشیه نرسید. او شش ماه را صرف استفاده از عوامل در پروژه‌های واقعی کرد: بخش‌هایی از Tinygrad، چارچوب یادگیری عمیق منبع باز او، و مهندسی معکوس کامل سیستم‌افزار یک تراشه‌ی USB-PCIe. او می‌نویسد: “عامل تمام پیشرفت‌ها را پیش‌خور می‌کند”، سپس چیزی را به شما می‌دهد که آن را به عنوان یک اهرم دستگاه اسلات توصیف می‌کند – شما آن را می‌کشید و امیدوارید که کار نهایی انجام شود.

اما هرگز کاملاً اینطور نمی‌شود.

نه درباره‌ی غرور

هاتز پیش‌بینی می‌کند که با مخالفت آشکاری مواجه خواهد شد: یک برنامه‌نویس که بخشی از هویت خود را از طریق حرفه‌اش تعریف می‌کند، طبیعتاً در برابر ابزارهایی که تهدید به جایگزینی او می‌کنند، مقاومت خواهد کرد. او این اعتراض را جدی می‌گیرد و آن را بر اساس شایستگی رد می‌کند.

هاتز نوشت: “من بیشتر به موضوع حفظ ارزش خود فکر کردم. AFL گوگل باگ‌های بیشتری نسبت به LLMها پیدا کرد و هیچ‌کس آن‌طور احساس نکرد. شطرنج و Go بیش از هر زمان دیگری محبوب هستند.” و او از این نظر درست می‌گوید که هوش مصنوعی شطرنج دهه‌ها بر انسان‌ها تسلط داشته است و این بازی تنها محبوب‌تر شده است.

بنابراین، نگرانی او در مورد جایگزین شدن نیست. بلکه در مورد این است که وقتی همه همزمان از این ابزارها استفاده می‌کنند، به‌ویژه زمانی که شرکت‌های بزرگ فناوری و وال استریت دائماً در حال فشار برای استفاده‌ی گسترده از این ابزارها هستند، چه اتفاقی برای کیفیت کد می‌افتد.

هاتز استدلال می‌کند: “من تقریباً فکر می‌کنم این نوعی عملیات روانی برای فروش عوامل است.” او می‌افزاید: “ترس از دست دادن یکی از تنها راه‌هایی است که شرکت‌های بزرگ را به حرکت وا می‌دارد. اگرچه فکر می‌کنم در آن ترس، آن‌ها مرتکب اشتباه بزرگی می‌شوند.”

استدلال اصلی او سازمانی است. مجریان با عملکرد بالا، حلقه‌های بازخورد کافی دارند تا مشکلات تولید شده توسط عامل را قبل از انتشار، شناسایی کنند. آن‌ها کد را می‌خوانند، خطاها را تشخیص می‌دهند و زمان اعتماد به ابزار را تنظیم می‌کنند. او می‌نویسد: “مجریان با عملکرد پایین، این بررسی خود را نخواهند داشت” – و آن‌ها کسانی هستند که از عوامل برای تولید ۱۰ برابر خروجی قبلی خود استفاده می‌کنند. در یک شرکت بزرگ، این محاسبات چیزی خاص را تولید می‌کند: زوال سریع‌تر میانگین کیفیت کد، که با حجم زیاد پوشانده می‌شود.

او استدلال می‌کند که نتیجه، “عصر طلایی برای انبوهی از آشغال‌ها و عصر تاریک برای جواهرات باکیفیت” خواهد بود. به‌عنوان یک مثال ملموس، او به گزارش‌هایی اشاره می‌کند مبنی بر اینکه اپل در حال فشار برای استفاده از ابزارهای کدنویسی هوش مصنوعی در سراسر سازمان مهندسی خود است، سپس به سادگی می‌پرسد: “آیا فکر می‌کنید macOS در ۲ سال آینده بهتر می‌شود یا بدتر؟”

جایگاه اردوگاه‌ها

هاتز اکنون خود را در آنچه او “اردوگاه LeCun/Marcus” می‌نامد قرار می‌دهد – با اشاره به یان لکان، دانشمند ارشد هوش مصنوعی متا، و گری مارکوس، یک بدبین دیرینه LLM. هر دو استدلال کرده‌اند که مدل‌های زبانی اساساً الگوهای پیچیده‌ای هستند: آن‌ها می‌توانند توزیع کد موجود را تقلید کنند، اما نمی‌توانند از اصول اولیه، مسائل واقعاً جدید را استدلال کنند.

کدنویسی Vibe – توصیف آنچه می‌خواهید به زبان ساده و اجازه دادن به هوش مصنوعی برای تولید پیاده‌سازی – در سال گذشته منفجر شده است و آزمایشگاه‌های بزرگ، کدنویسی مبتنی بر عامل را به‌عنوان یک محصول شاخص معرفی کرده‌اند. مایکروسافت در سال ۲۰۲۵ GitHub Copilot را به یک سیستم عاملی کامل تبدیل کرد و ساتیا نادلا، مدیرعامل، آن را به‌عنوان یک تغییر در سطح پلتفرم قابل مقایسه با حرکت به سمت ابر توصیف کرد.

مخالفت با موضع هاتز انتزاعی نیست. کارپاتی، که در اوایل سال ۲۰۲۵ نسبت به عوامل بدبین بود، پس از انتشار مدل‌های جدید، موضع خود را تغییر داد و در ۱۹ مه – پنج روز قبل از انتشار هاتز – به تیم پیش‌آموزش Anthropic پیوست. او چند سال آینده را در خط مقدم “به‌ویژه شکل‌دهنده” توصیف کرد.

داریو آمودی، مدیرعامل Anthropic، در داووس گفت که برخی از مهندسان Anthropic در حال حاضر نوشتن کد را متوقف کرده‌اند و به مدل‌ها اجازه می‌دهند این کار را انجام دهند در حالی که آن‌ها خروجی را بررسی می‌کنند. هاتز از طرف خود می‌گوید که سعی کرده همین کار را انجام دهد و هر بار خود را در حال تلاش برای رفع دستی مشکل یافته است.