开源流水线防 LLM 编造事实:锁定草稿+跨厂商模型核查
Francuza9 · reddit · 2026-11-19
作者运营一个由自动化流水线完成脚本、事实核查、配音和动画的格鲁吉亚短视频频道,并开源了引擎 reelline(Apache-2.0)。核心防幻觉机制:
- 事实优先:writer agent 先根据原始材料写纯事实草稿并锁定;
- 风格其次:style agent 在草稿之上加个性表达,代码逐句对齐两版并标出所有新增句子;
- 跨厂商核查:事实核查用与 writer 不同厂商、不同模型家族的模型,每条结论必须引用原文,代码验证引用真实存在。
生产数据(63 个脚本):共核查 882 条断言,7 条被拦截(全部在屏幕卡片上,均未播出);138 句新增玩笑句中 6 句涉及新闻,全部附来源引用确认。
埋错测试:在 30 个真实脚本中各改一个数字(截止日期、年龄、金额、年份),全部在正确句子被标记并给出正确更正,无误报。局限:数字是最容易的情形,真实生产中拦截的多是缺失条件等更难的问题,非数字失真尚未测试。
每条视频 API 成本约 $0.40。英文频道已支持到脚本、核查和静态画面,配音渲染暂只支持格鲁吉亚语。
「编程与Agent」频道最新
- CAD-to-URDF 自动生成仿真模型引热议,网友:几欧元 token 就能自己做 — kamathsblog · 2026-11-19
- 开发者吐槽: lacking 好用编码工具,只能当模型间的人肉复制代理 — Angaisb_ · 2026-11-19
- Swyx:好生意是让新模型发布让你更开心,而不是让你被淘汰 — js_craft_hq · 2026-11-19
- 开发者总结当前最优模型组合:规划用 Fable,执行用 Sol,审查用 Astra — jdjohnson · 2026-11-19
- 开源合规手册收 117 种 App Store 拒审模式,一天涨 542 星 — mjmirza · 2026-11-19
- 开源 CI/CD 可靠性智能体 opensre 获 1.3 万星,自动定位根因 — Tracer-Cloud · 2026-11-19