等第一個字出現,從 17 秒變 6 秒

Claude Code 的「首 token 延遲」大降約 3 倍。這一篇,用一條故事線講清楚:慢在哪、怎樣修好。

閱讀時間約 3 分鐘 · 資料截至 2026 年 10 月 17 日公布內容

TL;DR — 先講結論

問題
等 17 秒

雲端會話最慢的一成個案,按下 Enter 後要等近 17 秒才見第一個字。

病因
32,800

每次提問前,Claude Code 先傳約 3.28 萬 tokens 的背景資料。包袱太重。

修法
壓縮+預熱

對話負載每回合 gzip 壓縮;你打字未完,雲端會話已先啟動。

結果
快約 3 倍

本地 4.07 → 1.33 秒;雲端 16.99 → 6 秒。等待時間大減。

第一章 · 痛點

慢,是真實的痛

用 AI 寫程式,最難受的不是它答得慢。

是你按下 Enter 之後,畫面一動也不動。

你不知道它在想,還是在卡住。

今年 4 月,Vue.js 作者 Evan You 公開抱怨:Claude Code 可以卡住幾分鐘不動。

延遲不是小毛病。當工具經常要你乾等,信任就會一點點流失。 —— 本篇整理的編輯觀察;Evan You 的抱怨見來源報導

到了 7 月,有分析拆開了流量一看,找到了線索。

原來每次你開口之前,Claude Code 已經先傳了一大包背景資料。

提問之前,先傳多少 tokens?

2026 年 7 月的分析估計:系統提示、工具定義等固定開銷。

Claude Code 約 32,800
OpenCode 約 6,900

差距約 4.8 倍。包袱越重,傳送和處理就越久。這解釋了為何基線延遲一直偏高。

第二章 · 修法

兩招:一招瘦身,一招偷步

Anthropic 沒有換模型。

它修的是傳送方式。

修法一每回合壓縮對話

對話越長,每一回合要重傳的內容越多。先用 gzip 壓縮 conversation payload,路上花的時間自然減少。

修法二打字時先預熱

雲端會話啟動需要時間。趁你還在打字,先把會話熱身好。按下 Enter 時,它已經在等你,不用從零開始。

道理不深。

一件是把行李壓小,另一件是提早到車站。

但兩件加起來,效果以倍數計。

第三章 · 結果

四個場景,全部變快

公布的指標是 p90 延遲。

先花十秒弄懂 p90,數字才有意思。

p90 是甚麼?把 100 次使用由快到慢排好。第 90 名的時間,就是 p90。

換句話說:十次裡有九次,比這個數字更快。它量度的是「慢的時候有多慢」,比平均數更貼近你的真實感受。

p90 首 token 延遲:改善前 vs 改善後(秒)

數字越短越好。資料來源:ClaudeDevs 於 2026 年 10 月 17 日公布,CryptoBriefing 報導。

改善前改善後
本地會話快 3.06 倍
之前4.07 秒
之後1.33 秒
雲端會話快 2.83 倍
之前16.99 秒
之後6.00 秒
Claude 網頁與 Cowork快 1.55 倍
之前3.36 秒
之後2.17 秒
API快 1.51 倍
之前1.53 秒
之後1.01 秒

四組數字方向一致。改善幅度最大的,正是原本最慢的雲端會話。

親身感受一下:雲端會話,舊 vs 新

按下按鈕,兩條進度條按真實秒數賽跑(16.99 秒對 6 秒)。舊版跑完之前,新版早就完工。

改善前(雲端 p90)16.99 秒
改善後(雲端 p90)6.00 秒

提示:等舊版跑完,你會明白為甚麼用戶會失去耐性。

留意一點:6 秒仍然不是「即時」。

但由 17 秒變 6 秒,是由「想放棄」變成「可以接受」的距離。

第四章 · 查證

社群點評/爭議

社群反應太新,還未發酵

消息在 10 月 17 日才公布,距今約一天。

截至本篇整理時,Hacker News、Reddit 與 X 上都未見成形的討論串。

四組延遲數字內部一致,倍數計算對得上,未見有人質疑數據。

爭議暫無實質爭議,一點要註明

目前沒有實質爭議。

唯一要註明的是來源層級:「每一回合 gzip 壓縮」這個技術細節,來自 latent.space 的二手轉述,不是 Anthropic 的一手技術文件。

延遲數字本身則由官方帳號 ClaudeDevs 公布,可信度較高。

一句總結:這次升級不花巧。

它針對最痛的那一點下手——等。

而數據顯示,它做到了。