智谱披露RSI最小闭环:GLM-5.3驱动的Agent两周搭好10万卡国产芯片推理服务
智东西 · wechat · 2026-09-17
智谱创始人唐杰在 X 发长文并转发技术博客,首次披露智谱在递归自我改进(RSI)方向的成果:在超过 10 万卡国产芯片集群上,由 GLM-5.3 驱动的 InfraAgent 参与搭建了 GLM-5.3-Flash 的生产级推理服务,不到两周完成从模型适配到生产可用,端到端吞吐提升至基线 3 倍。唐杰称这是过去需资深 Infra 团队数周完成的工作,"模型优化系统,系统服务于模型"的最小闭环已经出现。
- GLM-5.3-Flash 曾以匿名模型 Ox-Alpha 上线 OpenCode 与 OpenRouter,一周成为双平台调用量最大模型,6 天 token 调用量超 62 万亿。
- 技术栈包括算力换带宽、通信换显存等激进内存优化,节点内张量并行、ReplaySSM、W8A8 量化、混合精度缓存量化、LayerSplit,以及 EPD 分离式架构;硬件效率与单 token 成本达到主流 NVIDIA GPU 相当水平。
- 博客核心方法论是"稠密反馈":将端到端指标拆解为局部、低成本、可客观验证的反馈,让 Agent 能判断"为什么变差"。三个案例:通过算子级对照发现并修复 KDA 算子上下文并行路径的 TF32 精度问题;定位 DeepEP 未释放 Python GIL 导致 KVTransfer 与 Mooncake 传输无法重叠的并发瓶颈(修复后差距从小于-20% 降到 1% 以内);从 SGLang、FlashLinearAttention 等存量 Kernel 提炼"优化骨架"指导新算子优化。
- 背景是智谱 9 月 13 日宣布约 50 亿美元融资,约 60% 将用于下一代 GLM 模型与完全自训练体系,逐步形成 RSI;同时智谱已启动安全能力增强研究,合作伙伴用 GLM 在真实代码库发现数千个漏洞,并设有受信访问计划。
所属事件:智谱披露RSI最小闭环:InfraAgent两周上线10万国产卡推理(16 条相关)→
「漫话AGI」频道最新
- Adobe Firefly 平台前负责人自述:数百份申请难获面试 — ericelliott_ · 2026-11-02
- 博主吐槽:AI评论泛滥到自己都分不出真人了 — xiaohu · 2026-11-02
- AI 浪潮前夜的经典:2019 年 Nature《Machine Behavior》仍值得重读 — iyadrahwan · 2026-11-02
- 用 100 个同一员工的克隆开公司? thread 借亚当·斯密质疑当前 agent 用法 — sebkrier · 2026-11-02
- 早期 agent 工程实践者称已面试数百个 agent 岗位 — ericelliott_ · 2026-11-02
- 世界银行 11 月 3 日办非洲 AI 就绪度网络研讨会 — ChinasaTOkolo · 2026-11-02