Bending Spoons 99% AI 流量跑自托管开源模型,靠 evals 省钱
alex_verem · x · 2026-09-25
Bending Spoons 将 99% 的 AI 流量运行在自托管开源模型上。作者指出多数 CTO 默认给 agent 用最贵的前沿模型(Claude Opus、GPT-6 Astra),却答不上「怎么证明更便宜的模型能胜任」。能省钱的公司都做对了同一件事:把「正确答案」写下来——用生产环境真实案例、经专家签核的答案构建测试集,让每个候选模型都跑一遍。有了这套 evals,模型就变成可以货比三线的普通成本项:便宜模型处理常规任务,昂贵模型只兜底难例。
「编程与Agent」频道最新
- 让 AI Agent 替你追退款:8 个 Muse 提示词全自动管钱 — armand_ruiz · 2026-09-25
- Runway 推出 MCP,让所有 AI Agent 都能调用视频生成 — tlakomy · 2026-09-25
- 开源项目 Hexis:用 Postgres 给 LLM 装上持久记忆与自主身份 — GeretsOliver · 2026-09-25
- 编码 Agent 最常「自信地瞎说」哪些话?Reddit 网友总结翻车清单 — aldi949 · 2026-09-25
- AgentArk 论文获 NeurIPS 2026 接收,多智能体蒸馏进单模型 — jindong_wang92 · 2026-09-25
- Ben Tossell 用 Codex 和子智能体一天打造 87 台复古设备网站 — Ben's Bites · 2026-09-25