北大 MAServeBench:把多智能体协作作为可复现 serving 负载基准

PekingUniversity · hf · 2026-11-03

北京大学发布 MAServeBench,将多智能体 LLM 协作建模为可配置的负载维度,用于评估 LLM serving 系统与硬件。基准抽象了工作流(spawn、fork-join、refinement loop、debate 等模式)、阶段(角色、执行控制、上下文构建)与语义化 trace 组织(task/stage/session/operation 层级),并提供可复现的依赖 trace,填补了传统单请求负载无法刻画多智能体层级协作特征的空白。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →