Stripe 欺诈审核模型靠解释训练提升 39% 召回率
emilygsands · x · 2026-11-20
Stripe 工程师 emilygsands 分享欺诈审核模型训练经验:教模型「决策背后的推理」确实能提升效果,但前提是训练顺序要对。
- 直接把标签和解释一起做 SFT 反而更差:标准 SFT loss 对每个 token 等权,长解释主导梯度,冲淡了对决策本身的优化。
- 采用两阶段 SFT:先在「标签+解释」上训练以建立证据与决策的关联,再单独在标签上训练聚焦决策能力。
- 第二阶段带来新问题:决策变好但解释质量下降,模型常跳过解释。第三阶段用 on-policy distillation(反向 KL、token 级奖励、Stage 1 模型 prefill)把解释能力找回来。
结果:在欺诈审核任务上,同等人工审核精度下召回率比只用标签的 SFT 高 39%,且产出的解释质量超过教师模型。配套技术博客详见 Stripe Dot Dev Blog(作者 Hangzhi Guo)。
所属事件:Stripe 用两阶段解释训练法提升欺诈审核召回率(2 条相关)→
「编程与Agent」频道最新
- Rex 支持跨 SSH 远程使用,一条命令即可安装服务器 — josh_wills · 2026-11-20
- Seroter 每日阅读清单:常驻 Agent、Envoy Agentic 栈与工具按需加载 — rseroter · 2026-11-20
- 博主实测:GPT-6.2 Astra 搭 Gemini 4 Neon 或为当前最佳编码组合 — haider1 · 2026-11-20
- 软件工厂现状平庸,作者重提「自主产品组织」的循环设计框架 — pzakin · 2026-11-20
- Firecrawl 推出本地版:Rust 重写爬取快 37 倍,内存仅 11MB — devdigest · 2026-11-20
- KORMo-Web-4B 冲上 Hugging Face 热榜:韩语GUI/网页操作模型 — KORMo-VL · 2026-11-20