GLM-5.2 API 调优到峰值 280 tokens/s
baseten · x · 2026-07-27
这条转发说，团队在 Kimi K3 发布前，刚把 GLM-5.2 的性能优化工作收尾。
配文文章称，他们为 GLM-5.2 做出了当时最快的 API，关键数据是：
- 峰值速度 280 tokens/s；
- 平均速度大约 100 tokens/s。
它强调的重点不是模型本身，而是把模型高效服务出来所需的推理与 API 工程能力。
所属事件:Baseten将GLM-5.2提速至280 tok/s(3 条相关)→
「Infra」频道最新
- Anthropic S-1 关键数字:成立以来算力支出仅 193 亿美元,算力过度建设警报 — bookwormengr · 2026-10-27
- CoreWeave 三周 RL 后训练:BrowseComp 提升 22.9%,工具调用省三成 — RichardSocher · 2026-10-27
- 电网排队成 AI 工厂瓶颈,Exowatt 与 Redwood 给出储能新解法 — ingliguori · 2026-10-27
- Wasmtime 曝两个 CVSS 9.9 沙箱逃逸漏洞，其中一个仅影响 ARM64 — basedjensen · 2026-10-27
- AI 数据中心时代用电论战：有人还在纠结灯泡省电与调整时区 — mgostIH · 2026-10-27
- 传 NVIDIA 暂停接收 RTX 5090 板卡订单,连补单都不收 — chemist_slime · 2026-10-27