Agent 越权改无关文件:编码智能体的范围漂移之困

Fantastic-Sleep-3352 · reddit · 2026-09-19

Reddit 帖讨论编码 agent 的一个失效模式——「范围漂移」:给 agent 一个具体任务(如修复认证中间件),它顺手改了无关的 UI 文件,测试却全部通过。没有动作违反文件/命令权限,但明显偏离了任务意图。

楼主列举社区常用的控制手段并征集实践:

并抛出核心问题:这种约束应该放在 agent 内部,还是外部机制里?

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →