OpenAPPA:不搞坏 Agent 的确定性 AI 护栏,工具调用可用性从 40% 提到 90%
motakuk · hn · 2026-09-28
Archestra 团队发布开源项目 OpenAPPA,解决企业 Agent 接入工具越多越容易失控泄露敏感数据的问题。
- 现有护栏两类都有硬伤:基于 LLM-as-judge 的非确定性护栏易受 prompt injection 攻击,在其基准上约 10% 数据泄露;Cedar、OPA、FIDES 等确定性护栏需大量 case-specific 的 IF-ELSE 策略,会搞坏 Agent(约 59% 可用性损失)。
- OpenAPPA 的思路是构建一种「数据特定」而非「场景特定」的策略语言,Agent 扩展时无需更新策略。
- 配合 remedy plan、DualLLM 模式等技巧,让 Agent 在限制内正常工作,可用性从约 40% 提升到约 90%,号称首个不破坏 Agent 的确定性护栏。
- 设计为可插拔,通过工具调用前后的 hooks 接入任意 Agent loop,提供 Claude Code 集成与 arXiv 论文。
「编程与Agent」频道最新
- 团队让 Agent 自动回复 Slack,网友直呼「和所有人的幽灵版聊天」 — iamrobotbear · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- 通用 API 目录 MCP 服务器实测:3 个工具换来永不膨胀的上下文 — MandeepKaur9407 · 2026-11-16
- UC Berkeley 论文揭示 LLM「过期绑定」:新值在上下文中仍答旧值 — ombre-ai · 2026-11-16
- Effective HTML 走红 GitHub:4.2k 星的 agent 技能集,线框图秒变可交互原型 — tom_doerr · 2026-11-16
- skills-gate:一个门面 skill 管住所有 agent skills,148 个技能仅耗 389 token — Distinct-Pie2389 · 2026-11-16