Codex 用户吞吐翻倍
TheZachMueller · x · 2026-07-20
作者更新说，Codex 在当晚把每用户吞吐提升到了 2 倍。
引用里的上下文是：
- 之前已经跑到 20 tok/s/user。
- 配置是 10GbE，并且采用了节点间 4/2 GPU 切分。
- 这还是在 未做进一步优化、并且已经启用 spec decode 的情况下达到的。
这条的重点不是模型能力本身，而是编码代理系统的吞吐和工程调优进展。
所属事件:Codex 用户吞吐量翻倍且体验可用(2 条相关)→
「编程与Agent」频道最新
- 构建 AI Agent 安全网关：如何自托管多 SaaS 的 OAuth 集成 — Defiant_Cod_2654 · 2026-07-22
- Rowboat 作为开源本地优先 AI 同事上线 — ycombinator · 2026-07-22
- Scoble 说 AI 的 loops 本质是长运行多智能体工作区 — Scobleizer · 2026-07-22
- Kimi Code 开放候补名单，Moonshot 推进编码产品 — Fabulous_Bonus_8981 · 2026-07-22
- 开源 runtime 让每个仓库自定义 AI 代码审查器 — ibabufrik · 2026-07-22
- 独立开发者探讨：当前 AI Agent 记忆层的真正痛点在哪？ — AcceptableTime7937 · 2026-07-22