AI agent 审批清单放到 prompt 外更稳
bolerbox · reddit · 2026-07-22
作者认为，AI agent 的审批规则最好放在 prompt 外部，而不是埋在提示词里。原因是 prompt 容易漂移、被编辑、继承上下文，或者在匆忙操作中被绕过；如果 agent 会创建公开内容、下单、发布或接触客户数据，审批门槛就应该是一个人类可读、稳定的外部清单。
他给出的外部 checklist 主要包括：
- 使用了哪些源材料
- 允许修改什么内容
- 哪些步骤必须人工批准
- 什么算一次失败运行
- 决策和日志保存在哪里
这样做的好处是：prompt 仍可保持灵活，但审批层更稳、更容易排错。作者也提醒，不要把清单做得太“聪明”；一旦它变成模糊的自动评估器，就又回到了让 agent 给自己打分的老问题。
「编程与Agent」频道最新
- TRL 上线 Score Centering：直击 RL 训练不稳定的根因 — lvwerra · 2026-10-27
- 预计算标准答案：团队重复问答的缓存式解法 — colinmcnamara · 2026-10-27
- 开发者观点：与 agent 交互式协作仍有未被挖掘的价值 — alex_frantic · 2026-10-27
- 研究者发起 AMA:揭秘「平民开发者」用 AI Agent 自动化企业工作 — Loose_Rip359 · 2026-10-27
- Gradio 推 ML Intern 人工介入：训练前可暂停审核数据 — Gradio · 2026-10-27
- 玩家用本地 LLM + Blender MCP 自动搭建 Halo 无限 Forge 地图 — swagonflyyyy · 2026-10-27