RIKEN 新法 FBI:训练更新只需一次采样,Pass@10 成本降至 12.3%
EmtiyazKhan · x · 2026-10-16
RIKEN AIP 等机构发布预印论文《Train for Many, Update with One》(arXiv 2610.17735),提出有限 K 后验学习方法与 Fenchel–Bregman IVON(FBI)优化器。
- 动机：推理时用 K 次尝试时，关键是候选池中至少有一个正确答案；逐个训练样本并不直接优化该目标，而直接优化 K 候选目标需要每次更新采样 K 个求解器，训练成本随 K 增长。
- 核心思路：学习求解器参数的分布，以「K 个候选中至少一个成功」(Pass@K)为目标训练；通过 Fenchel 重构将 K 候选目标拆为加权后验步与失败追踪步，每次更新只需一次参数采样。
- 效果：在 Maze-Hard 对比中，Pass@10 与逐个采样的 Direct-10 相当(91.3% vs 91.0%),但每次更新训练时间 0.0692s 对 0.5614s,仅为其 12.3%；平均 Pass@K 也优于 GRPO 与 DMPO。
「研究」频道最新
- POSTECH 论文:选择题评测偏差可拆解为翻转率与位置偏斜两因子 — Hyunjong Ok · 2026-10-16
- KV 缓存远程读取竟比重算还慢:GLM-5.3 生产系统案例复盘 — MultiverseComputingCAI · 2026-10-16
- Artificial Analysis 推出 Decision Index,评测决策模型新品类 — ArtificialAnlys · 2026-10-16
- Hyperflow 开源：采样 49 步压到 8 步，视频生成提速约 3 倍 — mhdfaran · 2026-10-16
- 非可逆聚合算子的高效滑动窗口算法引开发者点赞 — Paimaamu · 2026-10-16
- 5 万条编造数据被 ChatGPT 引用：GEO 实验揭示 AI 搜索漏洞 — metehan777 · 2026-10-16