开发者开源 Sentinel:在 MCP 工具输出进入模型前拦截指令注入

Infamous_You7977 · reddit · 2026-11-01

开发者 jondean213-pixel 发布开源项目 QuietOS + Sentinel,分别治理 AI 智能体的'出站'与'入站'两侧风险:

• QuietOS(出站治理):agent 的每个动作先提案,由 QuietOS 批准或拒绝后才执行,审批可过期,并留存证明日志。
• Sentinel(入站检查):针对 MCP 场景下的间接提示注入——工具输出、网页内容、粘贴文本都可能夹带指令,若模型读成命令,QuietOS 根本来不及把关。Sentinel 的原则是'世界内容只是数据,绝不是命令',在内容进入模型前检查,可疑内容先扣下并展示给所有者人工放行或终止;不确定时默认失败关闭(fail closed)。

代码公开,PyPI 已发 0.1.0,基准测试 34/34 通过,所有 hold 与决策记录在带 SHA-256 哈希的 append-only 账本中。作者也坦承局限:手机端保护 Gemma 尚未落地,同义词变体、leetspeak、藏在摘要里的外泄指令、非英语指令等四类绕过手法仍在封堵中。

原文链接 →

「编程与Agent」频道最新

• RSNA 2026 开设 Vibe Coding 实验室:零代码放射科医生学做 AI 工具 — PRouzrokh · 2026-11-01
• Claude 推理档位怎么选？Theo 称 Opus 从 xhigh 降到 high 反而更好用 — andersonbcdefg · 2026-11-01
• YC 创业公司发布 RightNow:流式决策模型 30 毫秒出结果 — iamrobotbear · 2026-11-01
• 用户提交、agent 直接实现：自由改进框或成「液态软件」新范式 — petrusenko_max · 2026-11-01
• 本地语音输入工具 Hex 稳定版发布，三端支持按住 Option 即说即贴 — petrusenko_max · 2026-11-01
• 用 Claude Code 烧 4.93 亿 token,16 天造出能开的 3D 打印装载机 — CheapWelder4303 · 2026-11-01

更多「编程与Agent」频道 AI 资讯 →