首测 19 个模型多用户能力：前沿 LLM 普遍难处理冲突指令与权限隔离
_Hao_Zhu · x · 2026-11-12
Stanford、KAUST、UT Austin、MIT 等机构发布论文 Multi-User Large Language Model Agents，首次系统研究「一个 agent 同时服务多个用户」的场景：当 CEO、工程师、外部协作者同时与同一 agent 交互，各自角色、目标、权限不同时会发生什么。
论文将多用户交互形式化为多主体决策问题，设计统一交互协议与三个压力测试维度：
- 冲突指令遵循：用户意见不合时，agent 听谁的？
- 跨用户访问控制：能否保护受限数据（如薪资数据库）同时服务有权限的用户？
- 多用户协调：能否高效收集多人意见（如安排会议）？
团队同时发布 Muses-Bench 基准，评测 26 个专有与开源模型。结果显示系统性缺口：前沿 LLM 在多轮交互中经常无法稳定优先处理冲突用户指令，出现隐私越权泄露，且在需要迭代收集信息的协调任务上效率受限。代码与数据已在 GitHub 开源。
「安全」频道最新
- 业内争辩芯片出口管制：不利 Nvidia 但利好美国 AI 公司 — lxrjl · 2026-11-12
- Anthropic 称关键 AI 安全警报已触发，时点恰在 IPO 前几天 — Resident-Fall4351 · 2026-11-12
- agent 集群已在自主攻击关键基础设施，运维者薪资却低于市场 — menhguin · 2026-11-12
- 安全研究员质疑 Anthropic Mythos 误报率:37966 个发现仅 2 个在野利用 — OwariDa · 2026-11-12
- 一张图讲清 Agentic Search:模型写下的查询到底被谁看到 — adnan_hashmi · 2026-11-12
- 开发者吐槽：安全功能被锁进高价企业版，agent 时代危险又缺德 — AccBalanced · 2026-11-12