GLM-5.2 API 调优到峰值 280 tokens/s
baseten · x · 2026-07-27
这条转发说，团队在 Kimi K3 发布前，刚把 GLM-5.2 的性能优化工作收尾。
配文文章称，他们为 GLM-5.2 做出了当时最快的 API，关键数据是：
- 峰值速度 280 tokens/s；
- 平均速度大约 100 tokens/s。
它强调的重点不是模型本身，而是把模型高效服务出来所需的推理与 API 工程能力。
所属事件:Baseten将GLM-5.2提速至280 tok/s(3 条相关)→
「Infra」频道最新
- 有人用 900 美元整机跑出 GLM 5.2 吞吐数据 — naunen · 2026-07-27
- llama.cpp 合并了 Minimax M3 的 MSA 支持 — Time_Reaper · 2026-07-27
- Windows 11 上 ComfyUI 跑通 Sage Attention 和 FlashAttention 2 — Left_of_Laniakea · 2026-07-27
- Baseten 为 GLM-5.2 做出峰值 280 tok/s API — iamrobotbear · 2026-07-27
- 马斯克等巨头力挺开源，AI 竞争的终局在基础设施？ — myllmnews · 2026-07-27
- 开源 GGUF 显存计算器可先算上下文内存占用 — Dry_Wing_ · 2026-07-27