OpenAI 内部复盘:GPT-5 太慢不是因为推理延迟,而是 token 生成太多

npew · x · 2026-10-29

OpenAI 工程师复盘:GPT-5 发布后用户反馈集中在「模型很好但太慢」。团队排查发现瓶颈不是首字延迟(TBT),而是模型生成了太多 token。

发帖人称,这正是「一整个模型代际都在死磕 token 效率」之后的产物——通过压缩输出长度来降低体感延迟。引用的截图则以「The OpenAI Canyon™」调侃模型输出冗长的现象。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →