长文生成系统求诊:每句强制脚注让元数据占了52%字符还不许合理推断
alatmaca · reddit · 2026-11-02
一位开发长文 LLM 生成系统(金融申请文书)的开发者寻求架构建议:输出既要文笔好,又要每个数字可溯源。他们试过两条路:
- 严格模板:每句都由预定义文案+事实引用拼装,数字安全但写作机械、无法构建论证。
- 自由写作+结构化引用(现行方案):Python 抽取事实填表,LLM 自由写叙述但必须返回含句级脚注的 JSON,验证器核对数字与声明来源,另有 LLM agent 审稿修复。问题随之而来:295 句测试中 285 句带脚注(98 句根本无数字),内部元数据占存储字符 52%;验证器拒绝合理推断(如「公司自2019年起持续出口」因「不间断」未被文档明说而被拒);模型偶尔把缺失信息清单泄漏进正文;全流程 25-45 分钟且 LLM 评审对同一文本打分不一致。
作者考虑改为「写作与验证分离」:先产纯文本,再抽取原子事实声明、链接证据、确定性核对数字、区分直接事实/推导事实/合理推断/无依据声明,独立维护证据台账。并提问:引用应写作时生成还是事后归因?如何保证数字准确性?如何区分合理推断与编造?句级 JSON 是否伤害写作质量与延迟?
「编程与Agent」频道最新
- 开发者分享 AI 编程四步流程:Agent 自动构建、评审并修复 — gabe_ragland · 2026-11-02
- 开发者改用 AI 生成 sprite 替代 3D 模型,解决动画帧一致性难题 — AIFlow_ML · 2026-11-02
- Vercel Agent 安全访问生产环境:按计划审批授权权限 — dl_weekly · 2026-11-02
- Mac 上安全跑 Computer Use agent:丢进虚拟机隔离个人数据 — MikePFrank · 2026-11-02
- 设计师宣言:还全靠 Figma 干活的人 2027 年将出局 — hewarsaber · 2026-11-02
- Reddit/HN 上 MCP 争论的三大焦点:上下文占用、冗余服务器与安全边界 — Fine_Airline_6832 · 2026-11-02