Apple 论文:选择式结构化推理降低搜索 agent 延迟超 90%
_reachsumit · x · 2026-10-02
Apple 团队在 arXiv 发表论文《Selection-Based Structured Reasoning》(SSR)，针对多模态搜索 agent 的推理效率问题提出新框架：
- 核心思路：将自由生成式推理改为从预定义、可复用的自然语言推理候选中做选择，模型基于当前上下文的似然进行选取，无需辅助任务头。
- 效率机制：预定义推理轨迹支持并行打分，通过 teacher-forced prefilling 在共享上下文 KV cache 上并发计算各候选的 token 似然。
- 实验结果：在 7 个多模态搜索基准上用 2B/4B 模型评测，跨多种强化学习目标与 SFT 设置，SSR 成功率与同规模领先搜索 agent 相当，同时单轮推理延迟降低超 90%，每题总模型推理延迟也大幅下降。
「研究」频道最新
- 斯坦福 CS224n 开课，学员计划每日打卡分享学习笔记 — stanfordnlp · 2026-10-02
- 手写 CS224n Transformer:144 行代码暴露尺度与掩码坑 — stanfordnlp · 2026-10-02
- 仅一次人工查看就抹掉司美格鲁肽的行为表型效应 — BenSiranosian · 2026-10-02
- 首尔大学 BeyondSCe：机器人凭历史事件抓取被遮挡目标，成功率 77% — SeoulNationalUniv · 2026-10-02
- 南大 RouteFM：预训练一次到处路由，LLM 路由迈向基础模型范式 — nanjinguniv · 2026-10-02
- PEARL 发布首个用户历史驱动的个性化图像生成基准,指标平均提升 15% — Bo Ni · 2026-10-02