Databricks 实践：通过 AI 网关与模型路由将内部 AI 成本暴降 90%
AdiPolak · x · 2026-08-10
Databricks 联合创始人分享了他们在内部大规模推广 AI 编码工具时，如何通过一系列技术手段大幅削减使用成本（部分场景降幅达 90%）。
核心思路是将 Token 视为一种需要优化的软件工程资源，并通过 Unity AI Gateway 进行集中式分析与智能调度。具体优化措施包括：
- 调整默认模型：将许多不需要顶级智能的编码任务流量，从昂贵模型转移至 GLM 等高性价比开源模型，预计可节省 50% 以上成本。
- 智能路由：自动化模型选择机制，进一步压榨效率。
- 预算下放：将控制权下放给一线工程师，允许其为单个任务设置 Token 预算上限，从而避免意外的成本失控。
「编程与Agent」频道最新
- Anthropic 称已通过多层防御将提示词注入攻击降至近 0 — javirandor · 2026-08-10
- Vercel CEO：AI 编程仍需人工审查，模型常犯新手错误 — brandon_galang · 2026-08-10
- 开发者重申：MCP 与 RAG 并存，大量 MCP 本质即 RAG — cocktailpeanut · 2026-08-10
- 开源防幻觉CLI工具：通过引用验证杜绝AI编造文献 — New_Guitar_9121 · 2026-08-10
- 开发者吐槽：如果你还在乎代码质量，那就不是 Vibe Coding — haydendevs · 2026-08-10
- Scale AI 创始人：多智能体已能自主寻找 0-day 漏洞 — alexandr_wang · 2026-08-10