人工审批常不是有效控制
MediaPositive4282 · reddit · 2026-07-19
作者认为，很多 agent 系统里的“人工审批”其实并不是控制，只是看起来像控制。常见失效方式有三种：审批节点根本不在 agent 实际执行路径上；人批准的是模型生成的描述而不是精确调用；以及审批者长期习惯性点“同意”，导致门禁沦为形式。
他提出更可靠的做法是把写权限放在审批之后，让 agent 默认只有只读/提议能力，真正的副作用只能由拥有权限的一侧执行。作者补充说，实践里最先出问题的往往不是攻击者，而是重试、重规划带来的重复或错误操作，因此幂等性比很多人以为的更关键。
「编程与Agent」频道最新
- BELL stack 开源：浏览器+Agent 框架+iMessage+支付，一套搭个人智能体 — jeff_weinstein · 2026-10-27
- 法律 AI 公司 Legora 在 Modal 上并行跑 2000 个 agent eval — blelbach · 2026-10-27
- 两名工程师用 AI 3.5 个月重建 FedEx 供应商计费核心,原估 7-8 个月 — alex_verem · 2026-10-27
- AA 实测 GPT-6.1 Terra:编码 Agent 得 48 分,成本仅前代三分之一 — ArtificialAnlys · 2026-10-27
- Shift-1 模型路由器发布：编码 Agent 成本最高降 55% — ypatil125 · 2026-10-27
- 零基础用户用 Claude Code 两周 vibe coding 出一款 Godot JRPG — ADHDavid · 2026-10-27