GLM-5.3 最快端点首 token 要等 18-26 秒,新口径下排名下滑
ArtificialAnlys · x · 2026-11-05
Artificial Analysis 指出 GLM-5.3 的一个有趣现象:流式输出最快的那些端点,返回首个 token 需要 18–26 秒,而多数其他端点 1–3 秒即可开始。在新改版的「端到端」计时口径下,这段首 token 等待被计入总请求时间,这些端点因此在速度排行榜上明显下滑。
这印证了基准改版帖子里的结论:只优化解码速度(如低批次排队、整段突发输出)的端点,会以牺牲首 token 延迟为代价,在新指标下现出原形。
所属事件:GLM-5.3 部分端点首 token 延迟严重、错误率高，新基准下排名下滑(2 条相关)→
「Infra」频道最新
- LFM3-Omni-2B 移植 iPhone：完全离线多模态对话达 80 tok/s — JosephJacks_ · 2026-11-05
- Together 发布持续编译器 TKCC:Agent 自动优化推理,实验效率提升 252 倍 — togethercompute · 2026-11-05
- 轨道数据中心发射入轨：被玩成「精灵西渡」的科幻梗 — rand_longevity · 2026-11-05
- 越南林同省拟引入 Starlink，破解山区事故救援通信难题 — elonmusk · 2026-11-05
- SpaceX 携手高通建全美 Starlink Mobile 5G 网络，2027 年铺开 — Polymarket · 2026-11-05
- Agent 烧钱循环怎么防：调用前预算护栏的六道检查与三个踩坑 — MaverikSh · 2026-11-05