Baseten 为 GLM-5.2 做出峰值 280 tok/s API
iamrobotbear · x · 2026-07-27
Baseten 宣布为 GLM-5.2 做了日落即支持的最快 API，配图中给出的数据是 峰值 280 tokens/s、平均约 100 tokens/s。
帖子还提到这个版本补上了 vision 支持，转发者表示自己测试后认为图像能力“工作得很好”。
所属事件:Baseten将GLM-5.2提速至280 tok/s(3 条相关)→
「Infra」频道最新
- Chutes 靠跨洲租卡训练 20B 模型，每小时成本不到 10 美元 — markjeffrey · 2026-07-27
- 有人用 900 美元整机跑出 GLM 5.2 吞吐数据 — naunen · 2026-07-27
- llama.cpp 合并了 Minimax M3 的 MSA 支持 — Time_Reaper · 2026-07-27
- Windows 11 上 ComfyUI 跑通 Sage Attention 和 FlashAttention 2 — Left_of_Laniakea · 2026-07-27
- 马斯克等巨头力挺开源，AI 竞争的终局在基础设施？ — myllmnews · 2026-07-27
- 开源 GGUF 显存计算器可先算上下文内存占用 — Dry_Wing_ · 2026-07-27