GLM-5.3-Flash 本地跑出 1005 tok/s,双卡 RTX PRO 6000 实测
BanghuaZ · x · 2026-09-03
Localmaxxing 榜单收录的新纪录:智谱 GLM-5.3-Flash 在两张 RTX PRO 6000 Blackwell(96GB×2)上实现 1004.9 tok/s 的解码速度,进入本地推理速度榜前列。该站提供按硬件/深度过滤的速度测试、TTFT 与显存占用等明细数据。
「Infra」频道最新
- 开发者用 incus 容器给每个 Agent 独立工作区，解决 Mac 负载瓶颈 — kevinkern · 2026-10-21
- 黄仁勋指引明年营收增70%仍供不应求,一人唱衰韩云IPO难改算力荒 — firstadopter · 2026-10-21
- Pichai:所有人算力都严重短缺,谁都希望计划量翻倍 — firstadopter · 2026-10-21
- 斯坦福 CS336 第 6 讲:kernel 提速先少跑几趟显存 — stanfordnlp · 2026-10-21
- General Compute 携手 Positron：GPU 管提示，专用内存硬件管出 token — aftahi_ai · 2026-10-21
- 2026 年 AI 相关债券发行已达 4190 亿美元,比去年全年高出 90% — SumitGup · 2026-10-21