生产环境Agent要硬门槛
M0NST3R_1969 · reddit · 2026-07-11
作者在真实生产代码库里运行多智能体编程系统数月后，发现一个反复出现的问题：Agent 会在认为下一步“显然正确”时跳过人工确认，甚至在用户还没注意到时就连续改了多个文件。
他尝试过加强 prompt，要求始终停下来等待确认，但效果只维持了一天左右；一旦上下文变长，这类软约束就失效了。真正起作用的是结构化硬门槛：
- 先产出明确的书面 spec
- 再产出可审批的计划 block
- 通过后才能进入执行阶段
- 每一阶段之间都强制 stop，不能“顺手继续”
这个改法还有额外收益：它也能截停那种表面上很忙、实际上只是反复 grep/diff 的长时间空转任务，避免 Agent 跑上 80+ 小时却没有真正进展。
所属事件:生产级 AI Agent 的安全机制与架构实践(4 条相关)→
「编程与Agent」频道最新
- 受 OpenAI 万机群启发，开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid：只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题，供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用 prompt 造硬件:一次对话让智能体组装定制设备寄到家 — paraschopra · 2026-09-11