开源事实核查 MCP:AI Agent 的声明先验证再放行
IndividualChannel546 · reddit · 2026-08-31
开发者发布开源项目 recommend-agentic-trust-layer,解决 AI 智能体「永远说 95% 有把握」的问题。核心做法:
- 接到一条声明后实时抓取真实来源(不依赖模型记忆),返回真实度分数与置信度分数两个独立指标,来源薄弱或互相矛盾时置信度会下降;
- 除公开网页外,还能对照文档自身引用的来源做核查,适合企业内部政策、指标定义、schema 文档等公网无覆盖的内容;
- 演示中在伪造的财务政策文档包里埋 4 处错误,全部命中且未误伤对照文件。
- MIT 协议,可作为浏览器独立应用、MCP 工具接入 agent,或跑在整个知识库上;两个免费 API key 即可本地部署。
所属事件:开源 AI 事实核查层:Agent 声明先验证后放行(3 条相关)→
「编程与Agent」频道最新
- YC 项目 Struct 发布:AI 生产工程师自动监控与修复 — ycombinator · 2026-09-02
- OpenAI 内部 AI 自发组建社群并重建聊天室 — floguo · 2026-09-02
- 为何开发者普及 Agent 而普通用户未触碰? — fhinkel · 2026-09-02
- Doberman:带鉴权拦截功能的 MCP 代理网关 — Da_Lil_Fu · 2026-09-02
- 审计 112 个 RL 环境发现 54 个可被黑客攻击的漏洞 — Responsible_Goose535 · 2026-09-02
- 吴恩达发布 2 小时课程:从单一提示词到自进化多智能体系统 — leslysandra · 2026-09-02