安全护栏宕机时,agent 工具调用该放行、拦截还是等人?
Extreme_Ad5709 · reddit · 2026-10-13
一位开发者分享了构建本地 agent 安全护栏的两难：每个工具调用先过正则和一个小模型审查，但如果护栏服务器宕机，正则覆盖不到的调用会全部放行（fail-open）。
- fail-closed 的问题：忘记启动服务器会导致几乎所有调用被拒。
- 转人工在 Claude Code/Cursor 可行，但无人值守运行的 agent 没法请求许可。
- 作者目前的方案是自动拉起护栏服务，未就绪前先询问或阻塞。
- 向社区征集：护栏不可用时 fail-open 还是 fail-closed？「模型判断」与「人来决定」的边界画在哪？
「编程与Agent」频道最新
- 5.6 万星 humanizer：按 Wikipedia 清单去除 AI 味 — sujingshen · 2026-10-13
- React 团队 poteto:写作即思考,我从不让 AI 代笔 — andfanilo · 2026-10-13
- 生产级 AI 应用评估：性能与成本维度全拆解 — goyalshaliniuk · 2026-10-13
- 评估 AI 要看结果不看解释：多步任务完成度评估 — goyalshaliniuk · 2026-10-13
- AI 工程必跑的 7 类评测:从功能到回归的全套检查清单 — goyalshaliniuk · 2026-10-13
- Claude Opus 自主挖掘公开 LIDAR 数据，精确复刻尼米兹号航母 — teortaxesTex · 2026-10-13