GLM-5.3 Infra Agent 两周内接管自家国产芯片推理调优
Afinetheorem · x · 2026-09-17
智谱 jietang 透露：从 GLM-5.3-Flash 首次跑上国产加速器到承接全部生产流量只用了两周，端到端吞吐提升 3.2 倍，大量优化工作由一个由 GLM-5.3 驱动的 Infra Agent 完成——即模型在优化服务自身的系统。
条件相当受限：内存与互联带宽不足、需支持 1M token 上下文与多模态请求、软件栈不成熟（kernel 缺失、文档基本靠猜）。Agent 的每次优化都是权衡：用算力换内存（ReplaySSM）、用通信换内存（节点内张量并行）、用精度换容量（混合 INT8/FP8/BF16）等。
Martin Chorzempa 评论称，这与美国实验室当前的沟通口径形成鲜明对比，显示中国实验室在用 AI 极限加速训练上毫不犹豫。
所属事件:智谱披露RSI最小闭环：InfraAgent两周上线10万国产卡推理(16 条相关)→
「编程与Agent」频道最新
- HF 工程师 agent 用内容定义分块,Parquet 编辑省 99.7% 存储 — lhoestq · 2026-11-02
- 开发者用 Rust 1:1 复刻 Super Auto Pets,要训出游戏版 Stockfish — jaivin · 2026-11-02
- 九种手绘状态图走红，每张都经 statechart skill 校验 — DavidKPiano · 2026-11-02
- Stardock CEO 展示工作流：晨间崩溃报告自动交给 Agent 出修复方案 — draginol · 2026-11-02
- Langflow 曝两个 9.8 分严重漏洞：无需登录即可远程执行代码 — jedisct1 · 2026-11-02
- 聊天历史不等于长期记忆：Spring AI 中的分层设计 — therealdanvega · 2026-11-02