GLM-5.3-Flash 支持百万上下文，实测速度超 160t/s
AutonomousHangOver · reddit · 2026-08-27
开发者 fork 了 GLM-5.3-Flash 的项目，使其适配 sm120 架构（4 x RTX6000 Pro）。
当前运行数据显示：支持 140 万上下文（约 5.45 个 262k 长度的会话），预填充速度达 3.7k t/s，Token 生成速度在 160-230 t/s 之间（已启用 MTP）。作者提供了相关的 vLLM Docker 镜像和 GitHub 仓库链接。
「Infra」频道最新
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线，端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15
- 实测 Apple Silicon GEMM 性能:M6 矩阵单元 fp8 达 fp16 两倍,M5 不支持 — Brilliant-Hall1387 · 2026-10-15