SAGE 用拓扑结构引导缓解 LLM 长程推理偏置,Andrews-Curtis 提升达 8 倍
Xinyue Zeng · hf · 2026-09-28
HF 论文《SAGE: Mitigating Long-Horizon Reasoning Biases via Topological Guidance》针对稀疏奖励下的长程推理脆弱性,提出两类偏置解释:
- 探索偏置:模型被局部合理但结构不稳定的分支吸引;
- 复合偏置:局部小偏差沿深度累积,压制稀少奖励。
方法上提出 Symbolic Closure Analysis(SCA)作为理论透镜与设计原则,并构建 SAGE 框架,组合两种结构引导:
- 代数稀疏化:把局部可行候选投影到算子索引的代数子空间,抑制虚假分支;
- 双曲结构引导:把推理状态嵌入负曲率空间,提供稠密的深度方向信号。
在 12 个 benchmark、7 个模型家族上超越竞争基线,其中在开放的真实长程问题 Andrews-Curtis 上取得最高 8 倍提升。代码已开源。
「研究」频道最新
- 用 4 张 V100 直播后训练 80B MoE 基座:96 小时蒸馏 3340 条数据 — jjusko20 · 2026-09-29
- 300K 真人标注视频偏好数据集开源,15 个 SOTA 视频模型同榜排名 — _akhaliq · 2026-09-29
- 哥本哈根学者质疑:Anthropic 宣称的 AI 独立科学发现可能早被人做出来了 — JFPuget · 2026-09-29
- 研究者:理论支撑的智能体科学或可判定系统是否具有意识 — aran_nayebi · 2026-09-29
- JevBench 与 JevImageBench 排行榜即将上线 — airesearch12 · 2026-09-29
- 预注册研究假设未获支持,论文却改口称“探索性” — RexDouglass · 2026-09-29