给 AI Agent 划红线:购物付款、代发邮件等硬性禁令清单

Virtual_Arachnid7916 · reddit · 2026-11-22

一位为自己搭建购物、邮件、研究、日程、会议准备等多个 agent 的开发者,在放手给 agent 更多自主权之前列出了一份「硬性红线」清单:

作者向社区征集:还有哪些该加的红线、如何落地执行(system prompt、工具权限、审批步骤、沙箱)、有没有红线救过你或因缺红线吃过亏、哪些红线因摩擦太大被放弃,尤其是能抵御 prompt injection 而不依赖模型「自觉」的方案。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →