小模型更省钱可能是错觉：隐藏的返工与审核成本
zeuslac · reddit · 2026-09-22
作者指出多数 AI 业务测算只盯模型账单，忽略了真实工作流成本：单次调用更便宜的模型未必让整体更省钱。
核心机制：
- 简单案例小模型够用，省钱是真实的；但难案例中它的建议太弱，审核者读完建议还得核对原始文档、自己重做，耗时反而超过没有 AI 时。
- 漏过审核的错误，事后修复成本远高于推理成本。模型账单降了，工作总成本却在涨，而审核时间记在另一套系统里，返工也很少追溯到源头任务。
两个反直觉结论：
- 按难度路由的价值完全取决于模型价差，一次降价就可能让路由层失去存在意义，所以它应该保持低成本、易拆除。
- 路由在财务上划算也可能在质量上失败：把太多难案例发给弱模型，整体错误率可能超过纯人工流程，即便表格显示在省钱。
解法不花哨：给每个任务建立唯一记录，把模型用量、审核时间和后续修正关联起来，看清一个完成任务的全成本，而非单次调用成本。
所属事件:小模型省钱或是错觉:隐藏的审查与返工成本推高总账单(4 条相关)→
「漫话AGI」频道最新
- 观点:即便 AI 能证题,数学家的价值依然巨大 — cloneofsimo · 2026-09-22
- cloneofsimo:学界严重低估 OpenAI 数学 Agent 已解决的问题量 — cloneofsimo · 2026-09-22
- GovAI 新论文:前沿 AI 评估应嵌入厂商内部而非只测 API — HaydnBelfield · 2026-09-22
- MIT 出版社将 9 本 AI 与机器学习经典教材全部免费开放 — thisguyknowsai · 2026-09-22
- Hassabis：AI 影响力将是工业革命 10 倍，且十年内到来 — victor_explore · 2026-09-22
- 谷歌 ScientistTwo 自动科研系统:107 道题攻克 80.4%,超人类 SOTA — thisdudelikesAI · 2026-09-22