低成本大规模运行 GLM 5.2 模型
Aizkmusic · x · 2026-07-17
开发团队展示了如何以极低成本（每百万 token 不到 0.1 美元）在规模化场景下运行 GLM 5.2 模型。通过使用 4 张 AMD MI325X GPU，实现了 1482 tokens/s 的生成速度，成本比 B300 低 3 倍，比 Opus 低 10 倍。
Aizkmusic · x · 2026-07-17
开发团队展示了如何以极低成本（每百万 token 不到 0.1 美元）在规模化场景下运行 GLM 5.2 模型。通过使用 4 张 AMD MI325X GPU，实现了 1482 tokens/s 的生成速度，成本比 B300 低 3 倍，比 Opus 低 10 倍。