东北大学发布 EC2-Bench:系统评测 LLM Agent 端云协同执行权衡
NortheasternUniversity1923 · hf · 2026-10-20
东北大学团队发布 EC2-Bench,系统评测长时程 LLM Agent 执行中的端云协同问题。
- 场景设定:以「安排项目会议」等长时程任务为基准,agent 需在本地邮件、日历等工作区中多步执行(查邮件→比对日程→解决冲突→发邀请确认)。
- 四种协同策略:查询路由(全端/全云)、逐步路由(每步由 router 决定端或云)、端控委托(端侧决定何时调用云端执行)、端控咨询(云端只给建议、端侧执行)。
- 三大研究问题:协同能否取得性能-资源-隐私的 Favorable 权衡;端侧模型能力(2B/9B/27B/Plus)提升如何影响协同;随端侧能力增强,协同模式应如何从外部路由向端控委托、再到端主云辅演进。
- 核心发现:端云协同存在性能、资源消耗与隐私之间的权衡;更强的端侧模型会更倾向于端侧主导的协同方式。
「Infra」频道最新
- 美国 47 座大型 AI 数据中心被取消,CoreWeave 债务利率飙至 15% — SumitGup · 2026-10-20
- 自托管 14B 模型审合同:准确率仅差 2 个点,成本降到 Claude 的 1/27 — Broad_Breakfast_1172 · 2026-10-20
- 全行业争模型霸主,但没人问谁控制电力:五层栈中模型层杠杆最小 — r0ck3t23 · 2026-10-20
- 租 GPU 已不稀缺:五起收购揭示 Neocloud 靠软件筑护城河 — FinanceYF5 · 2026-10-20
- Neocloud 竞争新逻辑:GPU 不再稀缺,竞相收购软件筑壁垒 — FinanceYF5 · 2026-10-20
- 黄仁勋批德国:科技最先进国家之一却大幅落后,别想太多快干活 — 2C_ornot2C · 2026-10-20