‏گوگل حافظه‌ی هوش مصنوعی را کوچک کرد، بدون افت دقت؛ اما یک اما دارد.

انتشار الگوریتم فشرده‌سازی جدید گوگل

پژوهش‌های گوگل روز چهارشنبه از انتشار TurboQuanton خبر دادند، یک الگوریتم فشرده‌سازی که گلوگاه اصلی حافظه در استنتاج را حداقل 6 برابر کاهش می‌دهد، در حالی که هیچ کاهشی در دقت ایجاد نمی‌کند.

قرار است این مقاله در ICLR 2026 ارائه شود و واکنش‌ها در فضای مجازی فوری بود.

متیو پرینس، مدیرعامل Cloudflare، آن را لحظه DeepSeek گوگل نامید. قیمت سهام شرکت‌های تولیدکننده حافظه، از جمله Micron، Western Digital و Seagate، در همان روز کاهش یافت.

بهره‌وری در کوانتیزه‌سازی به خودی خود یک دستاورد بزرگ است. اما عبارت “بدون افت دقت” نیازمند توضیح است.

TurboQuant حافظه KV را هدف قرار می‌دهد—بخشی از حافظه GPU که هر چیزی را که یک مدل زبانی در طول یک مکالمه باید به خاطر بسپارد، ذخیره می‌کند.

با افزایش پنجره‌های متنی به میلیون‌ها توکن، این حافظه‌ها به صدها گیگابایت در هر جلسه می‌رسند. این گلوگاه واقعی است. نه قدرت محاسباتی، بلکه حافظه خام.

روش‌های فشرده‌سازی سنتی سعی می‌کنند این حافظه‌ها را با گرد کردن اعداد به سمت پایین کوچک کنند—به عنوان مثال، از اعداد اعشاری 32 بیتی به 16، 8 یا 4 بیتی. برای درک بهتر، آن را به کوچک کردن یک تصویر از 4K، به Full HD و سپس 720p تشبیه کنید. تشخیص اینکه در مجموع همان تصویر است، آسان است، اما جزئیات بیشتری در وضوح 4K وجود دارد.

نکته: آن‌ها باید “ثابت‌های کوانتیزه‌سازی” اضافی را در کنار داده‌های فشرده‌شده ذخیره کنند تا از احمق شدن مدل جلوگیری شود. این ثابت‌ها 1 تا 2 بیت به ازای هر مقدار اضافه می‌کنند که تا حدی باعث کاهش دستاوردها می‌شود.

TurboQuant ادعا می‌کند که این سربار را به طور کامل حذف می‌کند.

این کار را از طریق دو زیر الگوریتم انجام می‌دهد. PolarQuant اندازه را از جهت در بردارها جدا می‌کند و QJL (Quantized Johnson-Lindenstrauss) خطای باقیمانده کوچک باقی‌مانده را می‌گیرد و آن را به یک بیت علامت واحد، مثبت یا منفی، با صفر ثابت ذخیره‌شده، کاهش می‌دهد.

گوگل می‌گوید نتیجه این کار، یک تخمین‌گر از نظر ریاضیاتی بدون سوگیری برای محاسبات توجه است که مدل‌های ترانسفورماتور را هدایت می‌کند.

در بنچمارک‌ها با استفاده از Gemma و Mistral، TurboQuant عملکرد با دقت کامل را تحت فشرده‌سازی 4 برابری مطابقت داد، از جمله دقت بازیابی کامل در وظایف سوزن در انبار کاه تا 104000 توکن.

برای درک اهمیت این بنچمارک‌ها، گسترش متن قابل استفاده یک مدل بدون افت کیفیت، یکی از سخت‌ترین مشکلات در استقرار LLM بوده است.

نکات ریز

“بدون افت دقت” برای فشرده‌سازی حافظه KV در طول استنتاج اعمال می‌شود—نه برای وزن‌های مدل. فشرده‌سازی وزن‌ها یک مشکل کاملاً متفاوت و دشوارتر است. TurboQuant به آن‌ها دست نمی‌زند.

آنچه فشرده می‌کند، حافظه موقت ذخیره‌سازی محاسبات توجه در طول جلسه است، که قابل اغماض‌تر است زیرا از نظر تئوری می‌توان آن داده‌ها را بازسازی کرد.

همچنین شکافی بین یک بنچمارک تمیز و یک سیستم تولیدی که میلیاردها درخواست را پاسخ می‌دهد، وجود دارد. TurboQuant بر روی مدل‌های منبع باز—Gemma، Mistral، Llama—آزمایش شد، نه بر روی پشته Gemini خود گوگل در مقیاس بزرگ.

برخلاف دستاوردهای بهره‌وری DeepSeek، که نیازمند تصمیمات عمیق معماری از ابتدا بود، TurboQuant نیازی به آموزش مجدد یا تنظیم دقیق ندارد و ادعا می‌کند که سربار زمان اجرا ناچیز است. از نظر تئوری، مستقیماً وارد خطوط لوله استنتاج موجود می‌شود.

این بخشی است که بخش سخت‌افزار حافظه را ترساند—زیرا اگر در تولید کار کند، هر آزمایشگاه هوش مصنوعی اصلی با همان GPUهایی که در حال حاضر در اختیار دارند، کارآمدتر عمل می‌کند.

این مقاله در ICLR 2026 ارائه خواهد شد. تا زمانی که در تولید عرضه نشود، تیتر “بدون افت” در آزمایشگاه باقی می‌ماند.