Baseten 推出服务端联网搜索，开源模型延迟降 15% 免编排
AccBalanced · x · 2026-09-18
- Baseten 发布 Hosted Tools 与 Grounded Inference：为在 Baseten 上运行的开源权重模型提供服务端实时联网搜索，一次配置即可启用。
- 此前给开源模型加网络搜索需自行编排工具调用、管理多家供应商密钥、并承担每轮往返的延迟开销。
- 官方称相比客户端执行延迟降低 15%，无需额外供应商密钥、零编排；首发集成 Exa、Keeable AI、P0、You.com 四家搜索伙伴。
- Groq 前高管转发称 GroqCloud 去年也做了类似功能，把搜索工具调用移入推理服务端是明显的性能优化方向。
所属事件:Baseten 发布 Hosted Tools 与 Grounded Inference(6 条相关)→
「编程与Agent」频道最新
- 一个过期日期让 WhatsApp 回复 agent 静默罢工两天,19 条消息无人应答 — petrusenko_max · 2026-11-02
- 10倍工程师就是一个 SKILLS.md:六大工作流规则全公开 — mdancho84 · 2026-11-02
- 开发者自审 MCP 凭据代理:最大漏洞竟出在配置文件 — Relevant_Mousse_9117 · 2026-11-02
- AWS 开源 Strands Harness 宣称比 Claude Code 便宜 45%，搅动 harness 之争 — blaizedsouza · 2026-11-02
- 小米 MiMo 提出 CodeSpecWeave:用相互依赖规格合成任务训练编程智能体 — XiaomiMiMo · 2026-11-02
- Sketchy v0.1.6:图表输出比纯文本省 29% token — Nkgsporty · 2026-11-02