Claude 消息线程公测:TTFT 降 35%,请求体积从 800KB 缩到 1.8KB
ClaudeDevs · x · 2026-11-03
Anthropic 官宣 message threads 在 Claude 平台公测,agent 每轮不再重发全部对话历史,降低长会话延迟。
工作方式
- 首个请求携带完整对话并开启线程;后续请求只发新增消息和上一条响应的 ID
- 线程在内存中加密保存、不落盘,最后一次请求 5 分钟后过期,客户端再重发完整对话开新线程
- 模型每轮仍读取完整上下文,token 用量不变,只是传输变小
实测效果
- Claude Code 默认开启后,50 万100 万 token 请求的 TTFT 中位数下降约 35%
- 长对话中位请求体积从约 800 KB 降至 1.8 KB
适用场景与可用性:长跑编码 agent、computer use(截图随线程保存不必每轮重传)、文档/图像处理等延迟敏感会话。通过 thread 参数+beta header 使用,已在 Claude Platform、AWS、Microsoft Foundry、Google Cloud 提供,按标准 token 价格计费。
所属事件:Anthropic Messages API 消息线程公测(4 条相关)→
「编程与Agent」频道最新
- Tau Ceti 项目用 AI+Lean 形式化「全部基础数学」，人人可投算力参与 — AlexKontorovich · 2026-11-03
- 周末用 Codex 纯 Blender Python 搭出 2.7 万块《抢救玛丽》模型 — yizhu59 · 2026-11-03
- 让 Sonnet 更新 AGENTS.md,它把文件改成了「bless this repo」ASCII 圣殿 — nptacek · 2026-11-03
- 开发者 vibe coding 自建交易终端,告别 TradingView — builderjaydub · 2026-11-03
- Chi Wang 推出多智能体共享房间,权限设计成可靠性关键 — anthara_ai · 2026-11-03
- Paperclip Datasets 上线:描述表格,Agent 自动从论文专利收集数据 — james_y_zou · 2026-11-03