Codex Code Mode 提速 10ms:工具目录跨 cell 复用省掉重复序列化

charliermarsh · x · 2026-11-22

Ruff 作者、Codex 团队的 Charlie Marsh 介绍最新 Codex 版本中 Code Mode 的一项优化:调用速度提升 10ms,靠的是在多个 cell 之间复用工具目录(tool catalog)。

这类调用每天发生数十亿次,因此在 harness 层的浪费会被成倍放大。优化前后对比:之前每次 Code Mode 调用都要序列化、发送并反序列化完整的工具列表;工具多时光为调用 text(1) 这样的简单操作就要传输数 MB 数据。

具体做法:Code Mode 需要让模型拿到全部可用工具(名称、描述、参数等)才能从 JS 里调用它们;现在改为每个会话只向宿主进程发送一次完整列表并附带 revision ID,只要工具未变化,后续每次调用只重发该 ID 即可。执行环境是每个 snippet 跑在独立 V8 isolate 中,但共享承载这些 isolate 的进程。

所属事件:Codex Code Mode 跨 cell 复用工具目录,调用提速 10ms(5 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →