开发者提出「证据性框架」:给 LLM 每条输出打上溯源标记
jzesbaugh · reddit · 2026-09-25
一位开发者在 Reddit 分享了其设计的 Evidentiality Framework,让 LLM 输出的每条声明携带轻量溯源标记:
- (u) 来自用户提供的材料
- (m) 经外部来源或工具核查支持
- (g) 模型自行生成(推理、解释或无依据输出)
作者强调标记不代表真伪——来源、用户和模型都可能出错——目的是让声明的来源在文本中可见,读者或下游工具无需猜测陈述从何而来。
作者列出了开放问题:什么算一条「声明」、模型改写或摘要时溯源如何传播、混合句如何处理、是否需要机器可读的更细粒度溯源结构,以及是否已有现成标准。框架目前刻意保持轻量,作者希望做 RAG、引用、溯源的开发者帮忙实现或尝试打破它。
「编程与Agent」频道最新
- MCP 实战指南:能力对齐仪表盘、慎用 CodeMode、必备文档搜索工具 — teropa · 2026-09-25
- SkillsBench 获 NeurIPS 2026 收录:87 任务实测 Agent Skills 真实效果 — HanchungLee · 2026-09-25
- 开发者开源 Neo Roundtable:让多个 AI 共享一条持久对话线 — gambit2054 · 2026-09-25
- 开发者自建 AI 获客工作流,断言下时代入口属 OS 级硬件 — dotey · 2026-09-25
- TypeSafe AI 推出 Jev:不做文本生成、专管 agent 运行中 bounded 决策的「System One」模型 — hardimanjames · 2026-09-25
- 一句话下指令:让 AI 智能体在 RuneScape 里冲 99 级钓鱼 — justalexoki · 2026-09-25