آنتراپیک زمان پاسخ‌دهی کد کلود را ۳ برابر کاهش داد

Anthropic سرعت Claude Code را به طور چشمگیری افزایش داد

شرکت Anthropic اعلام کرد که سرعت پاسخ‌دهی Claude Code را به طور قابل توجهی بهبود بخشیده است. در بازه زمانی اوت تا اکتبر ۲۰۲۶، زمان لازم برای دریافت اولین توکن در جلسات محلی از ۴.۰۷ ثانیه به ۱.۳۳ ثانیه کاهش یافته که نشان‌دهنده افزایشی نزدیک به ۳ برابر است.

جزئیات بهبودها

این بهبود نه ناشی از یک مدل جدید یا یک پیشرفت فنی پیچیده، بلکه حاصل فشرده‌سازی داده‌های مکالمه و آغاز جلسات ابری پیش از اتمام تایپ توسط کاربران بوده است. این به‌روزرسانی در تاریخ ۱۷ اکتبر ۲۰۲۶ از طریق حساب کاربری ClaudeDevs اعلام شد و چندین محصول Claude را پوشش می‌دهد، اما بیشترین تاثیر آن در Claude Code مشاهده شده است.

معیار کلیدی در این ارزیابی، «تأخیر اولین توکن p90» است. تأخیر اولین توکن به مدت زمانی اشاره دارد که کاربر پیش از دریافت هرگونه پاسخی از مدل منتظر می‌ماند. برچسب p90 به این معنی است که ۹۰ درصد درخواست‌ها سریع‌تر از این رقم پاسخ دریافت کرده‌اند.

در جلسات محلی Claude Code، این رقم از ۴.۰۷ ثانیه به ۱.۳۳ ثانیه کاهش یافته است. در جلسات ابری، این کاهش مطلق حتی چشمگیرتر بوده و زمان از ۱۶.۹۹ ثانیه به ۶ ثانیه رسیده که تقریباً ۲.۸ برابر سریع‌تر است.

تأثیر بر سایر محصولات

این بهبودها تنها به ابزار کدنویسی محدود نمی‌شود. تجربه کاربری Claude در وب و Cowork نیز حدود ۱.۵ برابر بهبود یافته و زمان پاسخ‌دهی از ۳.۳۶ ثانیه به ۲.۱۷ ثانیه کاهش یافته است. API نیز سریع‌تر شده و زمان پاسخ‌دهی اولین توکن از ۱.۵۳ ثانیه به ۱.۰۱ ثانیه رسیده است.

روش‌های پیاده‌سازی

Anthropic برای دستیابی به این نتایج، داده‌های مکالمه در هر نوبت را پیش از ارسال به مدل، با استفاده از فرمت فشرده‌سازی gzip فشرده‌سازی کرده است. Gzip یک فرمت فشرده‌سازی قدیمی و شناخته شده است که حجم داده‌ها را کاهش داده و انتقال آن‌ها را از طریق شبکه سریع‌تر می‌کند. بیشترین بهره‌وری این روش در زمینه‌هایی با متن طولانی، مانند زمانی که توسعه‌دهندگان فایل‌های حجیم، گزارش‌ها و مکالمات طولانی را وارد می‌کنند، مشاهده می‌شود.

تغییر دوم بر روی جلسات ابری متمرکز است. پیش از این، جلسات ابری تنها پس از ارسال درخواست توسط کاربر فعال می‌شدند. اما اکنون، با شروع تایپ توسط کاربر، فرآیند آماده‌سازی جلسه آغاز می‌شود. این مکانیسم پیش‌اجرا به توضیح دلیل کاهش چشمگیر تأخیر در جلسات ابری کمک می‌کند؛ هزینه راه‌اندازی از بین نمی‌رود، بلکه در زمان صرف شده توسط کاربر برای نوشتن درخواست پنهان می‌شود.

برخی واکنش‌ها به این اعلامیه، به جدید نبودن فناوری gzip اشاره داشتند، هرچند بیشتر بازخوردهای کاربران بر خودِ افزایش سرعت متمرکز بود.

این اعلامیه پس از یک دوره کاری فشرده داخلی در ماه گذشته صورت گرفت که در آن بیش از ۳۰۰۰ به‌روزرسانی منجر به بهبودهای مشابه عملکرد در محصولات مختلف Claude شد. اعداد مربوط به Claude Code به نظر می‌رسد یکی از نتایج قابل مشاهده این تلاش گسترده‌تر باشد. زمان‌بندی این خبر نیز درست پس از انتشار اخباری مبنی بر اینکه Claude حدود ۹۰ درصد از کد خود را تولید می‌کند، صورت گرفته است.

برای توسعه‌دهندگان، تأخیر یک معیار بی‌اهمیت نیست. دستیارهای کدنویسی در چرخه‌های تکراری و سریع مورد استفاده قرار می‌گیرند: پرسیدن، خواندن، ویرایش، و دوباره پرسیدن. چند ثانیه صرفه‌جویی در هر نوبت، در صدها نوبت در طول یک روز کاری، انباشته می‌شود.

بهبود در جلسات ابری ممکن است در اینجا بیشترین اهمیت را داشته باشد. کاهش زمان از ۱۶.۹۹ ثانیه به ۶ ثانیه، تعیین‌کننده این است که آیا یک توسعه‌دهنده در جریان کار باقی می‌ماند یا در حین انتظار به تب دیگری می‌رود.

Anthropic با نمایش بهبودها در سطح p90 در تمامی بخش‌های محلی، ابری، وب، Cowork و API، نشان می‌دهد که سرعت را به عنوان یک ویژگی محصول در کل سبد محصولات خود، نه فقط در یک ابزار خاص، در نظر گرفته است.

البته محدودیت‌هایی نیز وجود دارد که باید در نظر گرفت. انتظار ۶ ثانیه‌ای برای جلسات ابری همچنان قابل توجه است و رویکرد پیش‌اجرا به این معنی است که منابع محاسباتی برای درخواست‌هایی که ممکن است برخی کاربران هرگز ارسال نکنند، فعال می‌شوند.

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *