廉价模型打草稿加强模型精修，生成管线降本新架构
Visual-Basis3400 · reddit · 2026-07-23
作者分享了一种在高吞吐量文档生成管线中优化成本与质量的双层路由架构。
工作流程：
- 廉价模型负责草拟：将结构化大纲扩展为各章节的文本。这部分属于高 Token、低判断需求，小模型足以胜任。
- 前沿模型负责精修：对组装好的草稿进行单次最终处理，负责收紧主线、捕捉跨章节矛盾以及对照数据源进行真实性校验。这部分属于低 Token、高判断需求。
效果与局限：
该方案使大部分 Token 在廉价层运行，大幅降低了单文档成本且质量保持稳定，同时因并行处理改善了延迟。但其局限在于：廉价模型偶尔产生的隐蔽事实错误无法被精修环节完全捕获；需要维护两套 Prompt；且路由阈值目前依赖人工猜测，而非基于机器学习的动态决策。
「编程与Agent」频道最新
- 开源 Agent Skill 2.3k 星:生成 MVP 蓝图并审计重构 agentic harness — tom_doerr · 2026-09-11
- Cognition SWE-2 用 KKT 对偶优化长度惩罚，一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- 首届 Three.js 大会落地巴黎，AI 正缩短从想法到原型的距离 — OdinLovis · 2026-09-11
- 观点：Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- GPT-6 Astra 用时 44 小时通关含敌人 Factorio,API 成本约 4500 美元 — liminal_bardo · 2026-09-11