Notion AI 工程主管:别在 Token 经济学上内卷,用模型路由省下 75% 流量
AI Engineer · youtube · 2026-07-24
Notion AI 工程负责人 Sarah Sachs 在演讲中深度拆解了企业如何逃离大模型厂商的「定价陷阱」。她指出,前沿模型每月都在变相涨价(如消耗更多 Token 或快速弃用旧版),如果企业自身业务没有同比例增长,就会沦为「AI 穷人」。
核心策略:不要在 Token 经济学上取胜,要在产品上取胜
- 供应商即竞争对手:向同样在做 ToC 产品的实验室买 Token 等于交双重溢价,且容易被锁定。
- 模型不可知论(AI Switzerland):Notion 的 Auto Model 会根据「单位时间能力成本」自动路由约 75% 的流量,并在底层无缝切换供应商。
- 分级处理:拒绝用昂贵的前沿模型处理简单任务(如用 Opus 分类邮件),中等复杂度任务应交给开源权重模型,甚至优先使用 CPU 而非 GPU(如将 CSV 转 PDF)。
演讲最后展示了 Notion Agents 如何进行任务编排:从界定任务范围、呼叫队友到自动提交 PR。
「编程与Agent」频道最新
- 改造 orchestration skill,让多个 agent 互相自我审查 — pvncher · 2026-07-27
- 现代 AI Agent 协议栈的 11 项实用地图 — TheTuringPost · 2026-07-27
- NVIDIA 称 Nemotron 3 Ultra 在 RTL 芯片设计任务上达 97.1% — NVIDIAAI · 2026-07-27
- 东京 Agent Forge 黑客松一天做出可上线 AI agents — DavidBennett__ · 2026-07-27
- 长周期智能体最终需要不可变事件日志 — sebpaquet · 2026-07-27
- 实测智能体数据科学工作流:代码能跑但常答错问题 — hugobowne · 2026-07-27