多智能体系统 105 小时自动调优,Qwen3.5 推理提速 175 倍超 SGLang
bariskasikci · x · 2026-10-10
团队推出 VibeSys,一个用于设计系统的多智能体系统,将其指向 4 张 AMD MI300A 上运行的 Qwen3.5-397B-A17B,全程无人类编写引擎代码。
- 起点:PyTorch 基线仅 12.8 tok/s
- 105 小时自动迭代后:goodput 达 2,242 tok/s(提升约 175 倍)
- 比同硬件上的 SGLang 高出 2.33 倍
作者认为,随着硬件 × 模型组合爆炸式增长,定制化 serving 系统将成为唯一可行路径,通用推理引擎难以及时跟进,「Agent 构建的系统」是赢家。该结论仍属单点实验,但展示了 LLM 智能体在系统级工程优化上的潜力。
「编程与Agent」频道最新
- 实测三个个人 agent 的主动通知能力:dot 抓出错日历,Muse 太吵 — hazelcough · 2026-10-10
- 个人AI Agent开始记住工作模式并自建联系人CRM — thisiskp_ · 2026-10-10
- 创作者实测生成式模型:文本提示不是唯一交互,值得做更丰富界面 — keenanisalive · 2026-10-10
- VLM 看图能力不均，「do better」式提示很快失效 — keenanisalive · 2026-10-10
- 用「相信你自己」提示法调教 LLM 写 3D SDF 模型实测 — keenanisalive · 2026-10-10
- 不用 mesh 和 3DGS，他用 LLM 写 27KB GLSL 代码生成 3D 龙 — keenanisalive · 2026-10-10