Baseten 推出服务端联网搜索，开源模型延迟降 15% 免编排
AccBalanced · x · 2026-09-18
- Baseten 发布 Hosted Tools 与 Grounded Inference：为在 Baseten 上运行的开源权重模型提供服务端实时联网搜索，一次配置即可启用。
- 此前给开源模型加网络搜索需自行编排工具调用、管理多家供应商密钥、并承担每轮往返的延迟开销。
- 官方称相比客户端执行延迟降低 15%，无需额外供应商密钥、零编排；首发集成 Exa、Keeable AI、P0、You.com 四家搜索伙伴。
- Groq 前高管转发称 GroqCloud 去年也做了类似功能，把搜索工具调用移入推理服务端是明显的性能优化方向。
所属事件:Baseten 发布 Hosted Tools，开源模型服务端联网搜索(6 条相关)→
「编程与Agent」频道最新
- Grok Build 连发两版：后台任务实时可视，MCP 认证更稳 — XFreeze · 2026-09-18
- 开发者一天多做出动作 Roguelike，Astra 让 AI 边玩边改游戏 — majidmanzarpour · 2026-09-18
- Codex 终于上线消息时间戳，用户惊呼等太久了 — GabGarrett · 2026-09-18
- 任务板已流行 9 个月：多智能体 RL 让最新模型真正善用它 — herbiebradley · 2026-09-18
- Codex 能根据你的电脑使用历史主动推荐实用 skills — gabrielchua · 2026-09-18
- TypeSafe AI 推出评估模型 Jev,单次 API 调用搞定结构化判定,输入定价 $0.04/百万 tokens — multiply_matrix · 2026-09-18