GLM-5.3 推理提速 21 倍，Kimi 线性解码优化内核实测
teortaxesTex · x · 2026-08-22
KernelBench-Mega 测试显示，GLM-5.3 在 RTX PRO 6000 上通过 Kimi-Linear Decode 优化，实现了比 PyTorch 基准快 21.4 倍的性能（此前 GLM-5.2 为 11.1 倍）。该优化仅需一次 CUDA loadinline 启动，使用持久化 512 线程 CTA 和 30 个栅栏，并将 Int4 反量化保留在 GEMV 内，通过吸收 MLA 避免了庞大 KV 的具象化。对比榜单显示，GLM-5.3 在该基准下表现优异，甚至超过了部分主流模型。
「Infra」频道最新
- 2026 晶圆厂设备支出上调至 1530 亿美元，设备周期被拉长 — BenBajarin · 2026-10-16
- Steam 更新实测 5.23 秒启动反超 Epic，网友调侃 vLLM 该加入「启动时间大战」 — AlpinDale · 2026-10-16
- Shadeform 预告下周一发布六项新功能：降 GPU 成本、扩算力来源 — _jaydeepkarale · 2026-10-16
- Fastino 推出后训练 API：兼容 Tinker SDK，成本降 25%-85% — kalyan_kpl · 2026-10-16
- 达拉斯联储估算：AI 数据中心举债约占期限供给八分之一 — _onionesque · 2026-10-16
- 12GB 笔记本显卡硬跑 Wan2.1 14B FP16:内存交换压测 4 分 11 秒出片 — RYuu-1120 · 2026-10-16