Codex raises WebSocket limit to 128MB, cutting HTTP fallback ~20%
Codex 团队成员、Ruff 作者 Charlie Marsh 复盘了 Codex 传输层的一项改造:模型请求通过 WebSocket 增量发送,但旧的大小上限只有 16MB,超过限制的大 turn 会被服务端拒绝并回退到体验更差的 HTTP。
已确认
- WebSocket 请求大小上限从 16MB 提升到 128MB(8 倍),大幅减少大型 turn 回退 HTTP 的情况
- 服务端现在在请求过大时立即通知客户端,跳过此前「先上传大部分内容才被拒、再重试」的无谓循环
- 类似快速失败规则也应用于其他已知必然失败的状态码回退
- 改造后超限请求速度提升约 5 倍,整体 HTTP 回退率下降约 20%;charliermarsh 强调这是很大的降幅,因为分母还包含连接失败、超时等其他回退原因
为什么重要
此前大 turn 卡死时只能回退到体验更差的 HTTP 传输,且浪费上传时间。客户端与服务端配合的优化显著改善了大型任务的传输体验,也为其他增量传输场景的工程实践提供了参考。
2026-11-21 ~ 2026-11-21 · 5 related posts
Primary sources
- [source] Codex raises WebSocket request limit 8x to 128MB, making large turns 5x faster — charliermarsh · 2026-11-21
- Codex hit an HTTP fallback trap: oversized turns re-uploaded on every request — charliermarsh · 2026-11-21
- Raising Codex's WebSocket limit cut HTTP fallback rate by ~20% — charliermarsh · 2026-11-21
- [source] Codex server now rejects oversized requests instantly, skipping retry cycles — charliermarsh · 2026-11-21
1 near-duplicate retellings: charliermarsh