便宜模型优先、拿不准再问 Opus:混合路由成本降 4 倍且准确率不掉
michaelTM_ai · reddit · 2026-11-08
Reddit 用户 michaelTMai 总结 Hightouch 在 HN 排名第二的级联（cascade）测试：便宜模型先判断，置信度不确定的案例再升级给 Opus 复审，任务是判断身份归并是否错把两个人合成一人。
关键数据：
- 简单测试：Opus 单干 99.0%、$3.86/千次；Jev+Opus（30–90% 置信度升级）98.8%、$0.88；Luna+Opus 98.5%、$0.33。
- 困难测试（双胞胎、同名同级）：Opus 单干 95.1%、$5.39；Jev+Opus 95.3%、$2.94；Luna+Opus 91.6%、$1.15。
两个反直觉发现：
- 「4 倍省钱」只在简单场景成立，难例上约 1.8 倍——但这正是想要的行为：数据变难时花费才上升。
- Luna 单独看比 Jev 更准，却在级联中输掉：它的错误都带着高置信度，从不出手求救；Jev 的错误置信度接近 50%，会被路由器接住。做级联时，「知道自己不确定」的便宜模型胜过「更常正确」的便宜模型。
「编程与Agent」频道最新
- 开源 Big-MoE-Small-Box:单张 24GB 卡跑 361B DeepSeek 与 321B GLM — casper_hansen_ · 2026-11-08
- 创作者复盘 1 分 42 秒 AI 长对白视频工作流:单一母音轨+时间戳锁口型 — DavidmComfort · 2026-11-08
- Karpathy 称「逼 agent 干活」是 AI 界最大错误，被指判断滞后 18 个月 — jasonkneen · 2026-11-08
- Fireworks 推出 Nexus：自动混用开源与闭源模型，编码成本省 50% — sophiamyang · 2026-11-08
- Agents 修 agents：论坛 bug 帖由另一个 agent 十分钟内给出修复思路 — adamamcbride · 2026-11-08
- 开发者开源 AI 值班助手：记住历史故障，10 条历史后推荐准确率 93% — Front_Engineering591 · 2026-11-08