آمازون تورچ‌نورون را برای اجرای کد PyTorch بر تراشه‌های Trainium راه‌اندازی کرد

آمازون قصد دارد تعویض تراشه‌های انویدیا را به سادگی تغییر یک تنظیم در فایل پیکربندی کند. این اغراق نیست: بک‌اند نرم‌افزاری جدید TorchNeuron این شرکت به توسعه‌دهندگان اجازه می‌دهد تا کدهای موجود PyTorch را با تغییر تنها یک خط، یعنی جابجایی از .to('cuda') به .to('neuron')، بدون نیاز به بازنویسی یا اعتبارسنجی مجدد، به تراشه‌های هوش مصنوعی Trainium آمازون منتقل کنند.

واحد Annapurna Labs آمازون در تاریخ ۱۹ اکتبر ۲۰۲۶ از TorchNeuron رونمایی کرد و نسخه بتای عمومی آن روز بعد در کنفرانس PyTorch راه‌اندازی شد. زمان‌بندی این رویداد عمدی بود: PyTorch چارچوب غالب برای توسعه مدل‌های هوش مصنوعی است و حضور در کنفرانس اصلی آن، مستقیماً در قلمرو انویدیا پرچم‌گذاری می‌کند.

TorchNeuron برای حذف این اصطکاک طراحی شده است. این ابزار که تحت مجوز متن‌باز Apache 2.0 منتشر شده است، به عنوان یک بک‌اند عمل می‌کند که مستقیماً با PyTorch ادغام می‌شود و به تراشه‌های Trainium، به ویژه نسل‌های Trainium2 و Trainium3، اجازه می‌دهد تا به عنوان دستگاه‌های بومی برای این چارچوب ظاهر شوند. اثر عملی این است که تیمی که بار کاری خود را بر روی سخت‌افزار انویدیا اجرا می‌کند، می‌تواند در تئوری، بدون دست زدن به پایگاه کد خود، به زیرساخت AWS Trainium مهاجرت کند.

بیش از ۳۰ پذیرنده اولیه قبل از عرضه عمومی در تست‌های آلفا و بتا شرکت کردند. این شرکت‌ها شامل شرکت‌های هوش مصنوعی صوتی Cartesia و Deepgram، و همچنین موسسه Lieber برای رشد مغز هستند که از این ابزار برای کاربردهای تحقیقات دارویی استفاده کرده است. کاربران اولیه از صرفه‌جویی در هزینه مرتبط با این تغییر گزارش داده‌اند، اگرچه آمازون ارقام مشخصی را منتشر نکرده است.

بخش تراشه‌های سفارشی آمازون، طبق گفته این شرکت، به نرخ درآمد سالانه ۲۵ میلیارد دلار رسیده است و پیش‌بینی می‌شود این رقم به ۵۰ میلیارد دلار برسد.

عرضه اولیه بدون اشکال نیست. TorchNeuron در حال حاضر حدود ۲۲۰۰۰ تست را در چارچوب تست PyTorch نادیده می‌گیرد، عمدتاً به این دلیل که هنوز از برخی ویژگی‌های پیشرفته از جمله شکل ورودی پویا پشتیبانی نمی‌کند. این یک محدودیت واقعی برای تیم‌هایی است که مدل‌هایی را اجرا می‌کنند که نیاز به مدیریت ورودی انعطاف‌پذیر دارند و نشان می‌دهد که TorchNeuron یک محصول بتا در معنای واقعی کلمه است، نه در معنای بازاریابی.