Energy-Based Reasoners 论文:Sudoku-Extreme 达 99.9% 准确率,推理计算省 345 倍
burny_tech · x · 2026-11-11
Duke、UIUC、哈佛团队发表论文《Energy-Based Reasoners: Your Recurrent Reasoner Should Be an Energy-Based Model》,提出用能量函数改造潜空间循环推理:
- 问题:chain-of-thought 生成数百冗余 token 暴力探索;现有循环架构(HRM/TRM)在潜空间循环但「盲循环」——没有原则性信号判断思路是在变好还是变坏、何时该停。
- 方法:为潜推理状态定义显式能量函数,把推理变成沿能量面的梯度下降。梯度引导思考精炼,能量值本身作为内在验证信号决定停止;配合 exploration-based training 发现额外推理模式、塑造更平缓的能量地形。
- 结果:四个算法推理基准上匹配或超越此前循环推理模型;Sudoku-Extreme 准确率 99.9%,推理计算比次优模型少 345 倍且计算量相当;多解基准上实现 SOTA 的多解覆盖,同时保持近 100% 单样本准确率。
代码已开源(github.com/wwilichen/ebr)。
「研究」频道最新
- TRIAD 基准发布:多模态检索在层级、约束与多轮状态上全军覆没 — _reachsumit · 2026-11-11
- 新论文揭示 VLM 模态鸿沟根源:文本 token 语义密度远低于视觉 — _reachsumit · 2026-11-11
- 字节跳动发布 SepLRM:共享 KV 缓存重构推荐基础模型范式 — _reachsumit · 2026-11-11
- Yuanbao-Reranker 发布 0.6B/4B/8B 三档重排器,基于 Qwen3 合成数据训练 — _reachsumit · 2026-11-11
- Shopify RoutingTrie:把元数据过滤前置到生成式检索解码,Hit@100 提升 28.6 个百分点 — _reachsumit · 2026-11-11
- 去掉目录拷贝:在 Apache Pinot 上直接跑混合搜索,2.77 亿商品向量+BM25 p50 仅 6.5-9ms — _reachsumit · 2026-11-11