开源 MCP 服务 Aletheia Aegis:0.02ms 确定性检查拦截模型输出泄漏
Fuzzy-Ad9840 · reddit · 2026-11-23
作者发布开源项目 Aletheia Aegis(v0.3.0,已上 npm 与官方 MCP Registry),针对 agent 安全中「用延迟换确定性」的常见做法提出反驳:
- 核心主张:生产中真正的代价大的失败往往很简单——响应里带密钥、编造引用、缺安全兜底的剂量建议、自残方法漏过——这些用硬规则 + 快速检查就能拦住,不必再上一个 judge 模型(那意味着更慢、第二笔模型账单,以及用概率系统检查概率系统)。
- 架构:每条模型响应先过确定性门(p95 < 0.03ms,单机 73,000+ evals/秒),密钥与生命安全类失败直接硬 BLOCK,不可被 judge 推翻;judge 模型可选且只能看掩码后的 payload。
- 可用性:原生 MCP server,支持 Claude Desktop、Cursor 与自定义 agent 循环。
原则一句话:能被规则模式抓住的问题,就不该让模型看到。
「编程与Agent」频道最新
- YC CEO Garry Tan 开源个人「第二大脑」gbrain,星标已达 33.4k — garrytan · 2026-11-23
- 用户实测:gbrain 本地秒级读写,跨 Claude/ChatGPT 共享记忆 — garrytan · 2026-11-23
- 社区 Claude Skill:一张贺卡照片生成可交互 3D 电子贺卡 — thisiskp_ · 2026-11-23
- Microsoft Foundry Toolkit for VS Code 发布,统一 AI 应用与 Agent 开发 — adnan_hashmi · 2026-11-23
- Jeremy Howard 批 AI 编码代理:宁重写 450 行代码也不先问一声 — jeremyphoward · 2026-11-23
- GTA VI 都挡不住:5 款普通人用 Claude 做的 AI 游戏合集 — thisiskp_ · 2026-11-23