小模型+Kimi K3 级联路由：百封邮件欺诈检测仅花 7 美分

nutlope · x · 2026-09-17

开发者 nutlope 分享了一套欺诈邮件检测的级联推理管线：先用专用小模型 Jev 对 100 封邮件（正负各 50 封）做快速分类，1.42 秒完成，且自带置信度输出；置信度低于 95% 的 31 封再路由给 Kimi K3 兜底复核。

最终管线正确 96/100，全程 16 秒，推理成本约 $0.07：其中 Kimi K3（跑在 Together 上）占 $0.068，Jev 仅 $0.003。作者认为「快速专用模型打头阵、大模型兜底不确定样本」是欺诈检测等实时场景的实用模式：兼得速度、成本与准确率。