GLM-5.3-Flash 跑在 10 万+国产加速器上,infra agent 两周把吞吐提升 3 倍
JeremyCMorgan · x · 2026-09-26
Jeremy Morgan 介绍了一个大规模推理服务案例:
- GLM-5.3-Flash 已在 10 万+中国国产加速器上提供推理服务,大量调优工作由一个 infra agent 完成。
- 两周内吞吐量提升 3 倍。
- 可复用的关键经验不是单一聚合指标,而是密集反馈:正确性测试、trace 和 microbenchmark,用它们驱动 agent 持续优化。
对做大规模推理栈和用 agent 做性能调优的团队都有参考价值。
「编程与Agent」频道最新
- Matt Pocock:课程最惊艳的不是 Agent,而是 DDD 领域驱动设计 — mattpocockuk · 2026-11-11
- AI 智能体日夜运转一个月,复现法国气象局 AROME 天气模型 — IgorCarron · 2026-11-11
- 让 AI 角色扮演「高执行力传奇玩家」,提示词的隐藏秘诀 — tokenbender · 2026-11-11
- Agent 验证不设截止时间等于没验证：一份防护设计准则 — Key-Register-1969 · 2026-11-11
- 免费开源课程：从零构建 Claude Code 克隆，8 文章 6 视频讲透 harness 工程 — blaizedsouza · 2026-11-11
- 百度开源文心 5.5 Flash Preview:连写 11 小时代码做出武侠游戏 — xiaohu · 2026-11-11