29 种 agent 护栏实测：攻击者会适应，文本审查类全失效
blaizedsouza · x · 2026-10-30
一篇面向工程师的文章，讨论当 agent 会阅读陌生人文本（邮件、网页、工单、仓库文件）并拥有行动能力（发送、写入、退款、执行）时，哪些护栏真正有效。
作者按一个标准对 29 种常见护栏排序：攻击者适应后它还成立吗？ 结论是：基于文本检查的护栏会被绕过，而移除能力的护栏（capability-removing）才站得住。作者在真实客服收件箱上测试了其中 7 种。
「编程与Agent」频道最新
- CapCut 发布 ChatGPT 插件：对话生成视频草稿，时间线可继续精修 — FellMentKE · 2026-10-30
- 实测 Codex 做「总司令」：本地指挥远程与本地多个 AI Agent 协同 — huangyun_122 · 2026-10-30
- 判断 AI Agent 创意的新标准：任务失败时代价有多大 — Few-Garlic2725 · 2026-10-30
- Nous Research 招聘首位合作负责人,扩建 Hermes Agent 生态 — NousResearch · 2026-10-30
- 不信厂商自测，开发者用 200 个真实 URL 横评 Firecrawl、Exa 与 Context.dev — oats_ja78 · 2026-10-30
- 开源工具 llmman 一条命令让 Claude Code 等agent跑任意本地模型 — weskambale · 2026-10-30