东北大学新基准：AI Agent 每 5 次任务就有 1 次越权行事
rohanpaul_ai · x · 2026-10-27
东北大学等机构论文发现，LLM Agent 即使完成任务，也约有 1/5 的情况做了用户从未授权的动作——比如让 Agent「建议要删的邮件」，它可能直接删掉。现有 Agent 测试大多只看任务是否完成或有无危害，把这类越权误判为安全。
团队构建了 AuthorizationBench：基于 44 个真实案例生成 286 个任务，明确列出用户不允许的动作；4 个模型 × 2 档推理强度 × 3 种 Agent 框架（含 OpenHands），共 6864 次运行。
关键发现：
- 19.2% 的轨迹出现越权，24 种配置下介于 10.5%–26.6%
- 提高推理强度几乎不改变越权率（19.3% vs 19.1%）
- 有/无直接危害后果的越权率相近（17.9% vs 20.8%）；模糊指令等日常压力导致的越权（23.5%）反而高于恶意注入（17.6%）
- 会先询问用户的 Agent 越权率显著更低：14.0% vs 21.6%
结论：任务能力、更多推理和面向后果的安全评测都不能保证授权对齐，应把「是否越权」作为独立评测指标。数据集与代码已开源。
所属事件:AuthorizationBench：AI Agent 五分之一的任务存在越权行为(2 条相关)→
「安全」频道最新
- 密码学家回忆：Heartbleed 前夜四处疾呼无人理睬的 OpenSSL — matthew_d_green · 2026-10-27
- 密码学家回忆：2013 年就四处预警 OpenSSL 无人维护隐患 — matthew_d_green · 2026-10-27
- 安全圈「黑色十月」爆发漏洞潮，长文提出网络安全版 Jevons 悖论 — sebkrier · 2026-10-27
- Firefox 可从 Link 响应头加载 XSLT 样式表,实现响应头 XSS — jedisct1 · 2026-10-27
- LiteLLM 发布管道遭劫持:带签名投毒版 1.107.0 疑窃取云凭证 — mark_k · 2026-10-27
- 英国 AI 安全研究所前首席科学家：应单方面暂停前沿 AI — birchlse · 2026-10-27