Groq با حافظه پویا برای تراشه جدید خود مشکل حافظه را حل می‌کند

Groq: تراشه نسل آینده با ظرفیت حافظه ارتقا یافته برای رقابت با سرعت بی‌نظیر

منابع صنعتی در تاریخ ۲۰ اکتبر ۲۰۲۶ فاش کردند که شرکت Groq قصد دارد حافظه‌های DRAM سه‌بعدی پشته‌شده (3D-stacked DRAM) را در تراشه‌های پردازش زبان (Language Processing Unit – LPU) استنتاجی آینده خود ادغام کند. هدف از این اقدام، افزایش ظرفیت و پهنای باند حافظه برای مدل‌های بزرگ هوش مصنوعی است، بدون آنکه از توان پردازشی خام که سخت‌افزار این شرکت را متمایز کرده، کاسته شود.

تمرکز بر حافظه پشته‌شده سه‌بعدی

این طرح بر حافظه‌های DRAM سه‌بعدی پشته‌شده، که اغلب به اختصار 3DS نامیده می‌شوند و از طریق اتصالات سیلیکونی (Through-Silicon Vias – TSVs) به هم متصل می‌شوند، متمرکز است. بر اساس یافته‌های تحقیقاتی، نسخه Groq با هدف افزایش ظرفیت عمودی DRAM با استفاده از رابط‌های استاندارد طراحی شده است. تأکید اصلی بر مقیاس‌پذیری است، نه صرفاً دستیابی به بالاترین اعداد پهنای باند ممکن.

تراشه Groq 3 LPU دارای ۵۰۰ مگابایت حافظه SRAM روی تراشه است. این حافظه پهنای باند ۱۵۰ ترابایت بر ثانیه را برای هر تراشه فراهم می‌کند که تقریباً هفت برابر پهنای باند حافظه HBM در پردازنده‌های گرافیکی (GPU) مشابه است. پهنای باند برای تولید توکن، مرحله‌ای که مدل کلمات را یکی پس از دیگری تولید می‌کند، اهمیت حیاتی دارد. طراحی Groq به تراشه Groq 3 LPX اجازه می‌دهد تا سرعت تولید تا حدود ۳۴۰۰ توکن در ثانیه را ارائه دهد.

چالش ظرفیت و راه‌حل حافظه پشته‌شده

مشکل اصلی، ظرفیت محدود است. یک رک کامل ۲۵۶ تراشه‌ای LPX در مجموع تنها ۱۲۸ گیگابایت حافظه SRAM دارد. این مقدار در نگاه اول زیاد به نظر می‌رسد، اما در مواجهه با مدل‌های با تریلیون‌ها پارامتر، کافی نیست. مدل‌ها در این مقیاس، اپراتورها را مجبور می‌کنند تا کار را بین تراشه‌های متعددی تقسیم کنند، صرفاً برای نگهداری وزن‌های مدل در حافظه.

حافظه DRAM پشته‌شده دقیقاً برای رفع این مشکل طراحی شده است. این تحقیق، این تغییر را پاسخی به محدودیت‌های ظرفیت طراحی فعلی مبتنی بر SRAM توصیف می‌کند، در حالی که پهنای باند بالای حافظه مورد نیاز برای تولید کارآمد توکن را حفظ می‌کند.

پیشینه و تحولات استراتژیک Groq

شرکت Groq در سال ۲۰۱۶ توسط جاناتان راس، طراح سابق تراشه‌های TPU گوگل، تأسیس شد. در دسامبر ۲۰۲۵، انویدیا (Nvidia) قراردادی به ارزش تقریبی ۲۰ میلیارد دلار با Groq منعقد کرد که شامل مجوز استفاده از مالکیت معنوی Groq و استخدام پرسنل کلیدی آن بود. یافته‌های تحقیقاتی این توافق را عملاً یک تملک توصیف می‌کنند.

به نظر می‌رسد Groq در این مسیر تنها نیست. گزارش‌های اولیه حاکی از آن است که حرکت به سمت حافظه‌های DRAM پشته‌شده، مشابه آنچه Cerebras برای تراشه مقیاس ویفری CS-6 خود دنبال می‌کند، با انطباق صنعت با مدل‌های بزرگ‌تر هوش مصنوعی، در حال رایج‌تر شدن است.

مهم‌ترین سیگنال، فلسفی است. استراتژی بلندمدت Groq این بوده که پهنای باند برای استنتاج، بر همه چیز برتری دارد. حرکت به سمت حافظه DRAM پشته‌شده نشان‌دهنده پذیرش این واقعیت است که ظرفیت دیگر نمی‌تواند به عنوان مشکل دیگران تلقی شود.

برای انویدیا، این تلاش می‌تواند موقعیت آن را در پردازش قدرت برای مدل‌های پیچیده‌تر تقویت کند. ترجیح گزارش‌شده Groq برای رابط‌های استاندارد به جای رویکردهای پهنای باند فوق‌العاده بالا، تلاشی برای مدیریت ریسک‌های تولید به نظر می‌رسد.

نکات قابل توجه بعدی شامل هرگونه تأیید رسمی از سوی Groq یا انویدیا، ارقام ظرفیت مرتبط با LPU جدید، و اینکه آیا پیکربندی رک ۲۵۶ تراشه‌ای تغییر خواهد کرد، می‌باشد. جهش معنادار فراتر از ۱۲۸ گیگابایت فعلی به ازای هر رک، نشان‌دهنده موفقیت این طرح خواهد بود.