斯坦福混合推理 Agent:潜空间思考,11 项基准平均提升 10.4%
alex_verem · x · 2026-11-05
斯坦福、Together AI、伊利诺伊大学与 Meta 研究者发布 Hybrid Reasoning Agents 论文(arXiv:2610.18861),让 LLM 在「潜空间思考」与「文本交互」之间动态切换。
核心设计
- 轻量级 HybridLink 模块实现文本模式与潜在模式的无缝切换;连续工作记忆跨多轮保留无损混合上下文
- 常规步骤在模型隐藏状态里推理,工具调用与重大决策回到明文,保证可审查性
- 配套后训练算法:HybridSFT 稳定工具集成的混合生成,HybridRL 学习何时潜空间思考、何时文本行动
实测结果
- 3 个模型规模、11 项基准(数学/科学/医学/搜索/agentic 推理)平均提升 10.4%
- token 减少 35.5%-54.7%,推理提速 1.8x-2.6x,成本节省 2.7x-3.7x
- 最大版本基于 Qwen3-14B:WebWalker 得分 49.5,远超 OpenAI GPT-5.6 家族最便宜的 Luna(11.0),但在 5 项 agent 基准中输掉 2 项(含 HLE 16.0 vs 29.0)
- 数学题超 1/3 步骤跳过文本生成;单题平均耗时从 134 秒降至 63 秒,百万题生成算力成本估算从 $470 降到 $176
可解释性与隐患
把隐藏思考换成另一道题的内容后,数学准确率从 88.2% 跌至 48.6%,证明答案确实依赖潜空间推理。针对「AI 在人读不到的地方思考」的担忧,作者测试了将隐藏步骤粗略转成文本:560 道数学题上,外部监督者仅读可见文本的判断效果与纯文本 agent 相当。但论文也指出,闭源产品中可能只有厂商能读取这些隐藏步骤——这引出了「谁有权看 AI 在想什么」的信任问题。
所属事件:斯坦福等发布混合推理 Agent：潜空间思考平均提升 10.4%(2 条相关)→
「编程与Agent」频道最新
- Living Brain 记忆层省 22.6 倍 token,API 5 美元起无订阅 — testingcatalog · 2026-11-05
- Notion 让 ChatGPT/Claude 等智能体共用一个「共享大脑」 — nbaschez · 2026-11-05
- 用户用 Claude 越狱 NordicTrack 跑步机，免掉每月 39 美元解锁 Netflix — peterjliu · 2026-11-05
- 独立开发者 SammHo 分享:用一份产品简报喂出 launch/changelog/营销全套内容 — SammHo · 2026-11-05
- ex-Google 产品负责人 12 月 17 日免费直播：用 Linear 上下文搭 GTM agent — SammHo · 2026-11-05
- SammHo:先写骨架产品简报再上 agent,Linear 工单就是上下文 — SammHo · 2026-11-05