Apple 与 CMU 提出 SSR:推理延迟降 90% 的多模态搜索智能体框架
jiqizhixin · x · 2026-10-25
Apple 与卡内基梅隆大学发布 SSR（Selection-based Structured Reasoning，ArXiv 2610.01892），把智能体的自由生成式推理改为「选择题」：模型从预定义的推理策略库中选择，而非逐 token 写思考链。
核心做法
- 推理库含六个可复用选项：图像搜索识别不确定实体、文本搜索查具体事实、裁剪/放大检查图像细节、基于已收集证据作答、直接从图像读答案、证据充分即推进
- Parallel Reasoning Decoding 借共享 KV cache 对候选策略并行评分，无需辅助任务头
结果
- 在 7 个多模态搜索 benchmark 上用 2B/4B 模型评测
- 平均成功率与同规模领先搜索智能体相当，同时每轮推理延迟降低超 90%，每题总推理延迟降低 28–54%
论文针对小模型自由推理冗长且连贯性差、推理成本高的问题，给出效率与性能兼顾的结构化推理方案。
「编程与Agent」频道最新
- 8 万 agent 压测架构：工具立即返回、结果异步推回队列，空闲仅占 100KB — AIFlow_ML · 2026-10-25
- 3 小时教 140 名律师搭自己的 AI agent：从提示词到超个性化分析简报 — jkubicki · 2026-10-25
- UX设计师花5美元实测6款AI网站审计工具,同站评分34到73分相差悬殊 — noya1979 · 2026-10-25
- AWS 开源 Infinity 运行时:让闲置 Agent 休眠,8GB 跑 7.5 万个 — AIFlow_ML · 2026-10-25
- 开发者吐槽 SSH 已陈旧：QUIC、滚动回显、图形协议该有尽有 — seatedro · 2026-10-25
- 冻结 Qwen2.5-72B 实现跨会话神经记忆：SSD 存储 80/80 层比特级复现 — Nearby_Indication474 · 2026-10-25