字节 Seed 与清华发布 RSIBench-Infra:Agent 可优化生产级训练推理设施
geoffwolfe · x · 2026-11-23
字节跳动 Seed 与清华大学 AIR 发布 RSIBench-Infra 基准(arXiv:2611.24395),检验 Agent 能否在生产规模上优化自己的训练与推理基础设施。
- 覆盖 20 个训练/推理任务,横跨多个模型家族与模态,部署规模最高 32 块加速器(NVIDIA GPU 与 Ascend NPU)
- Agent 从官方 recipe 的可运行基线出发,可在引擎、kernel、指令三个层级修改软件栈;通过 OCI 镜像层提交协议保证可复现部署,评估系统保持独立、按任务质量约束测量端到端性能
- 结果:全部任务中 66.2% 达到 ≥1.10 倍经验证的加速;表明当前 Agent 已能提升生产级训练/推理性能,但找出有效优化策略、把局部改进稳定转化为端到端收益仍是难点
设计上的关键边界是「优化 workload 本身,而不动判定优化是否算数的代码」——质量与测速系统独立于被改的软件栈。
「Infra」频道最新
- 两台 Mac Studio 跑 320B 模型:单用户 137 tok/s,32 人并发零报错 — AIFlow_ML · 2026-11-23
- 产品高管晒本地 AI 工作站:M5 Ultra Mac Studio + 全本地模型栈 — davidhoang · 2026-11-23
- 曝 Oracle 服务器报价暴涨 50%,OpenAI 算力项目被迫大幅缩水 — SumitGup · 2026-11-23
- 《大空头》原型 Eisman 警告:黄仁勋离任或引爆英伟达循环融资连锁危机 — SumitGup · 2026-11-23
- Cloudflare Workers Traces 12/1 起收费,调低采样率可省大钱 — yihui_indie · 2026-11-23
- 晒1.9万美元64核Threadripper工作站,呼应「未来公司三要素」论 — jacob_posel · 2026-11-23