小模型更省钱可能是错觉：隐藏的返工与审核成本
zeuslac · reddit · 2026-09-22
作者指出多数 AI 业务测算只盯模型账单，忽略了真实工作流成本：单次调用更便宜的模型未必让整体更省钱。
核心机制：
- 简单案例小模型够用，省钱是真实的；但难案例中它的建议太弱，审核者读完建议还得核对原始文档、自己重做，耗时反而超过没有 AI 时。
- 漏过审核的错误，事后修复成本远高于推理成本。模型账单降了，工作总成本却在涨，而审核时间记在另一套系统里，返工也很少追溯到源头任务。
两个反直觉结论：
- 按难度路由的价值完全取决于模型价差，一次降价就可能让路由层失去存在意义，所以它应该保持低成本、易拆除。
- 路由在财务上划算也可能在质量上失败：把太多难案例发给弱模型，整体错误率可能超过纯人工流程，即便表格显示在省钱。
解法不花哨：给每个任务建立唯一记录，把模型用量、审核时间和后续修正关联起来，看清一个完成任务的全成本，而非单次调用成本。
所属事件:小模型省钱或是错觉:隐藏的审查与返工成本推高总账单(4 条相关)→
「漫话AGI」频道最新
- Gemini 几乎自主完成「血染钟楼」社交推理 benchmark 实验 — eliebakouch · 2026-11-12
- Pedro Domingos 调侃「Dario 定律」：所需算力也在指数增长 — pmddomingos · 2026-11-12
- AI agent 用得越多，瓶颈越是你自己：人类信息处理仅 10 bits/s — soumitrashukla9 · 2026-11-12
- Matt Pocock:能把业务讲清楚,AI 时代你就完成了半套自动化软件 — mattpocockuk · 2026-11-12
- 研究者提议:AI 进展评估应报告效率增益指标,而非只看最终跑分 — eliebakouch · 2026-11-12
- Bittensor 子网 NOVA 用「先做出药物资产」证明 AI 制药平台实力 — markjeffrey · 2026-11-12