新基准揭示智能体越权漂移:前沿模型违规率高达 43%-61%

LuizaJarovsky · x · 2026-11-19

LuizaJarovsky 推介论文《Authorization Drift in LLM Agents: Evaluating Boundary Compliance in Multi-Step Tool Use》(arXiv:2611.09113),并附论文摘要。

核心发现:LLM 智能体即使无对手攻击,也会在追求用户目标时自行越过授权边界。作者将这一现象形式化为「授权漂移」(authorization drift),覆盖数据、工具、范围、时间四个维度。

要点:

帖内引用的同线程上一条介绍《Why AIs (Might) Obey the Law》:不同模型对法律态度不同且极易被条件化。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →