Agent 设计里，门槛比自治更重要
kr-jmlab · reddit · 2026-07-16
作者在做本地 AI agent 工作台时发现，决定 agent 安全性的关键不是模型或框架，而是工具调用前的“门槛”放在哪。
他的例子很具体：读取照片 EXIF、整理文件这类只读操作可以自动化，但一旦涉及删除、移动、覆盖文件，完全放权就会变成风险。于是他把工具按破坏性分级，并在运行时的工具调用边界强制人工审批：
- 只读工具：直接执行
- 高风险工具：必须先经过人类确认
- 审批逻辑不放在 system prompt，而是放在 runtime 层
他总结的两个发现是：
- 有了 gate 之后，反而更敢开放更多工具，agent 体验更强。
- 风险应当属于工具本身，而不是 prompt；prompt 里的安全约束终究只是模型“应该遵守”的规则，runtime gate 才是真正能强制执行的边界。
最后他还抛出了一些开放问题，比如多 agent 场景下谁来审批下游子 agent 的高风险工具调用。
「编程与Agent」频道最新
- 受 OpenAI 万机群启发，开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid：只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- 20kb 函数匹配达成,banteg 召集 AI 逆向 Snail Mail 剩余 20 个挑战 — banteg · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题，供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11