Snowflake 将模型路由升级为数据治理特性
shashib · x · 2026-08-20
Snowflake 在其 Cortex AI Gateway 中推出了动态模型路由功能,将模型选择从开发者手中接管,转变为受平台管控的数据治理特性。该“顾问模式”优先让小模型处理任务,若失败则由大模型接手,同时利用分类器根据历史任务跳过小模型。
内部测试数据显示,该路由策略能显著提升 Token 效率:在同等质量下,构建数据管道的 Agent 消耗的 Token 减少三分之二,工程团队关闭 Pull Request 的 Token 消耗减少 25%。该功能目前处于私有预览阶段。
「Infra」频道最新
- 民调:美民众反对本地数据中心比例飙升至 75% — Polymarket · 2026-08-21
- Ramp Router 宣布 GPT-5.6 Sol 推理价格减半 — KlausCodes · 2026-08-21
- NVIDIA 发布官方 CUDA MCP 服务器,辅助 GPU 代码编写与性能分析 — swagonflyyyy · 2026-08-21
- Escha 声称其 2bit 量化模型在 FP8 基准测试中表现持平 — luedtek · 2026-08-21
- 研究员吐槽:每年因会议被占用的算力资源惊人 — ChongZzZhang · 2026-08-21
- AT&T 将 40% 员工 AI 用量转至开源模型 — Hesamation · 2026-08-21