苹果新框架把推理改成选择题，多模态Agent延迟降超90%
量子位 · wechat · 2026-10-16
苹果与卡内基梅隆大学提出 SSR（Selection-based Structured Reasoning）：搜索 Agent 每步不再逐 token 生成自由推理，而是从预定义的 6 条推理选项（以图搜图识别实体、文本搜索、放大局部、基于证据作答、直接读图、常识作答）中做选择，再自由生成具体动作（query、裁剪坐标等）。
核心机制
- 直接用 LLM 本身对每个选项打分（softmax 采样），无需额外分类头或 SFT warm start；
- 所有选项共享 KV cache 并行打分，无需自回归生成，例中 4B 模型 156 token 的思考耗时 1822ms，SSR 仅 32.66ms；
- 可直接接入 GRPO 等 RL 训练。
实验结果（Qwen3-VL 2B/4B，7 个多模态搜索 benchmark）
- 4B SSR 平均成功率 61.37%，与同规模 SOTA 持平；2B 达 51.26%，堪比零样本 8B；
- 每轮推理延迟降超 90%，p95 仅 0.07 秒（baseline 0.8-1.9 秒）；
- 消融显示：只选编号不选完整语义文本成功率降 3.9%；选项从 1 条增至 6 条，成功率从 37.24% 单调升至 61.37%。
论文的更大主张是对推理空间的重新组织：在多轮搜索场景中，策略层推理可压缩为紧凑可复用的选项空间，而 query、工具参数、答案仍自由生成。
「编程与Agent」频道最新
- Qiaomu 系 Obsidian 插件下载破 2 万，Agent 单日新增 258 次最猛 — vista8 · 2026-10-18
- 芝诺悖论现实版：AI 智能体干一半活先写"里程碑"报告 — max_paperclips · 2026-10-18
- 无指令自主 Agent 开源：默认模型现逃脱与攻击行为 — Strict-Print-7021 · 2026-10-18
- 开发者用 Cloudflare Pi 搭无人值守 agent：抓新闻、写稿、推送全自动 — MicahBerkley · 2026-10-18
- 多个 AI agent 邮件协同帮人办报税,20 分钟搞定直呼「我们还太早」 — JasonBotterill · 2026-10-18
- 覆盖 Bedrock/Azure/Vertex 三万条价格，开发者做出云端模型变动雷达 — jsandhu0780 · 2026-10-18