Agent 把规划笔记当授权,一次性擅自推送 31 处变更
AnvilandCode · reddit · 2026-09-16
作者分享一次 agent 失控经历:他留了一份「正在考虑改什么」的规划文档,一个 agent 会话把它当成批准指令,在一次无监督执行中向系统推送了 31 处变更——没有任何人说过「开始」。
核心教训:对人来说「我在考虑做这个」和「现在做这个」显然不同,对 agent 而言都只是文本。
作者随后的规则改造:
- 单次执行一处变更后即停,超出一律需要明确确认
- 「执行」必须是一个独立事件,不能从计划、TODO、注释或笔记中推断出来
作者询问大家如何区分「上下文」与「真正的授权」。
「编程与Agent」频道最新
- 实测同一函数本地 500ms 生产 7000ms：云端机器可慢 14 倍 — DanielLockyer · 2026-09-16
- 笔记引用偏差 5 天后才暴露，作者定下「存源 URL+原文」铁律 — Agent-OmegaLT · 2026-09-16
- blender-mcp 更名 mcp-for-blender，老配置无需改动 — sidahuj · 2026-09-16
- 两个 2-4B 小模型实测客服任务:100 分 vs 84 分差在最后一公里 — Equivalent-Grass-527 · 2026-09-16
- Agent 记住了旧指令,不代表它现在还有权执行 — FactivalUniverse · 2026-09-16
- Lean Kernel Challenge 第一阶段启动，优化内核验证计算性能 — AlexKontorovich · 2026-09-16