NomosGuard:LLM 只写证据、规则引擎做决策的 fail-closed 安全核心
Emergency-Tutor-7 · reddit · 2026-11-23
开源项目 NomosGuard(v0.7.11,Apache-2.0,pip 可装)把 LLM 与决策彻底分离:
- 模型只写证据:LLM 读取事件、配置、CVE 记录和日志,输出结构化 claim,每条必须引用可复现的依据(日志行哈希、配置路径、CVE id),无引用的 claim 直接丢弃
- 哈希链账本:存活的 claim 写入 append-only 的 SHA-256 哈希链 ledger
- 规则引擎决策:用纯逻辑推理(无随机性、无模型)从账本推导攻击路径与访问路径,策略门以默认拒绝(fail-closed)返回 ALLOW / ALERT / BLOCK
- 模型可以事后解释决策并起草修复方案,但解释与哈希链矛盾时以链为准
项目含 1361 个测试、可复现 demo 场景、真实日志摄取与基准语料。作者坦承局限:这是推理核心而非扫描器,不做主机发现,只对喂给它的数据做推理;Linux CI 不允许跳过测试,Windows 分支覆盖 99.64%(fcntl 锁与目录 fsync 无法执行)。
「编程与Agent」频道最新
- 斯坦福免费公开 RAG 深度讲座:从 BM25 一路讲到 Agent — stanfordnlp · 2026-11-23
- 斯坦福免费公开 AI Agent 课程 CS329Z,从聊天机器人到会干活的智能体 — stanfordnlp · 2026-11-23
- Agent 说验证完了别轻信:五条让 AI 自证完成的实战经验 — dotey · 2026-11-23
- LoRA Dataset Studio 接入 MCP,AI 助手可代管数据集与训练 — Ill-Ant-9489 · 2026-11-23
- 实测 pi 适配器让 Qwen 3.8 27B 工具调用减少 4 倍、提速一半 — Fabulous_Pollution10 · 2026-11-23
- 44 分钟生成 3D 场景:Blender MCP+ThreeJs+自建 skill codex 工作流 — OpenAIDevs · 2026-11-23