智谱 GLM 3.5 Flash 六天免费处理 42 万亿 token，全靠国产芯片
bindureddy · x · 2026-08-27
分析中国「Big Bang」芯片上 Ox-Alpha（GLM 3.5 Flash）的服役成绩：6 天内免费处理 42 万亿 token，完全运行在国产芯片上。
技术要点：
- 自研 SGLang 推理引擎，采用 Encode-Prefill-Decode 解耦架构
- 用 GLM-5.3 基础设施 agent 自己编写 GPU kernel、调试瓶颈——模型优化了自己的服务栈
- 端到端性能提升 3 倍，在国产硅上达到英伟达级成本平价
- 背后是 Zai 的 1GW 数据中心，10000+ 芯片集群，零英伟达芯片
作者观点：出口管制本想拖慢中国，反而迫使 Zai 建成完全主权的 AI 技术栈，证明中国算力并不受限。
所属事件:神秘模型 Ox Alpha 揭晓：智谱 GLM-5.3-Flash 国产芯片承载(19 条相关)→
「Infra」频道最新
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线，端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15
- 实测 Apple Silicon GEMM 性能:M6 矩阵单元 fp8 达 fp16 两倍,M5 不支持 — Brilliant-Hall1387 · 2026-10-15