OpenAI 内部复盘:GPT-5 太慢不是因为推理延迟,而是 token 生成太多
npew · x · 2026-10-29
OpenAI 工程师复盘:GPT-5 发布后用户反馈集中在「模型很好但太慢」。团队排查发现瓶颈不是首字延迟(TBT),而是模型生成了太多 token。
发帖人称,这正是「一整个模型代际都在死磕 token 效率」之后的产物——通过压缩输出长度来降低体感延迟。引用的截图则以「The OpenAI Canyon™」调侃模型输出冗长的现象。
「模型」频道最新
- 传闻称「Gemini 4 Carbon」登顶 AA 指数,Google 内部人士暗示催熟 — agihippo · 2026-10-29
- Gemini 4 Carbon 跑分表曝光:AA Index 59 分全场最高 — ammaar · 2026-10-29
- Google 发布 Gemini 4 Carbon,登顶 Artificial Analysis 榜单 — Polymarket · 2026-10-29
- Reddit 转贴:Google 官方博客正式介绍 Gemini 4 Carbon — Paschoni · 2026-10-29
- Gemini 4 Carbon 登顶 Artificial Analysis 榜首,综合分 59 — Independent-Wind4462 · 2026-10-29
- Cognition 新榜图遭质疑:DeepSeek 成绩在不同榜单间落差悬殊 — teortaxesTex · 2026-10-29