量子位详析GLM InfraAgent:稠密反馈驱动的RSI雏形
量子位 · wechat · 2026-09-17
量子位全文转述智谱唐杰的技术博客,详解 GLM-5.3 驱动的 InfraAgent 在 10 万卡国产集群上参与搭建生产级推理系统的技术细节。GLM-5.3-Flash 全部线上推理运行于该系统,曾以匿名名 Ox-Alpha 上线 OpenCode 与 OpenRouter,6 天 token 调用量超 62 万亿。
核心技术是「稠密反馈」机制:将正确性测试、执行 Trace、微基准测试组织进 Agent 迭代流程,要求反馈局部、低成本及时、可客观验证,解决端到端指标无法解释「为什么变差」的问题。三个案例展示了闭环效果:
- 正确性:Agent 发现 KDA 上下文并行路径中 TF32 默认精度导致长上下文误差累积,改用 tf32x3 修复,合并至 FlashLinearAttention 上游;
- 系统行为:Agent 定位 DeepEP v1.2.1 的 intranodedispatch/combine 未释放 Python GIL,阻塞 MooncakeTransfer 线程,修复后 Prefill+KVTransfer 与单独 Prefill 的性能差距从超 20% 降到 1% 以内;
- 性能优化:Agent 从 SGLang、FlashLinearAttention 等项目提炼「优化骨架」,重组 Decode Kernel 消除四次重复归一化,获 1.71 倍提升。
智谱强调尚未实现 RSI:目标设定、边界划分和风险判断仍由人类负责,但每次 Agent 完成工程任务都可能成为下一代模型的训练数据。
所属事件:智谱披露RSI最小闭环:InfraAgent两周上线10万国产卡推理(16 条相关)→
「漫话AGI」频道最新
- Adobe Firefly 平台前负责人自述:数百份申请难获面试 — ericelliott_ · 2026-11-02
- 博主吐槽:AI评论泛滥到自己都分不出真人了 — xiaohu · 2026-11-02
- AI 浪潮前夜的经典:2019 年 Nature《Machine Behavior》仍值得重读 — iyadrahwan · 2026-11-02
- 用 100 个同一员工的克隆开公司? thread 借亚当·斯密质疑当前 agent 用法 — sebkrier · 2026-11-02
- 早期 agent 工程实践者称已面试数百个 agent 岗位 — ericelliott_ · 2026-11-02
- 世界银行 11 月 3 日办非洲 AI 就绪度网络研讨会 — ChinasaTOkolo · 2026-11-02