自建推理比租用更划算？
AI Engineer · youtube · 2026-07-19
这场演讲围绕一个核心问题展开：为什么“租用智能”常常算不过账。
主讲者分享了自己把实验室聚焦在推理上后的经历：在 200 个用户烧掉 1000 美元 credits 之后，他意识到按 API 租模型的成本模型难以长期成立，于是转向自建推理基础设施。他总结出一条经验：PMF 早期可以租模型做验证，真正要对结果负责的部分应尽量自建推理。
他还提到，业界不同厂商都在用各自的方式讲同一件事：让你继续付费给他们。基于自己的实践，他把 agents 从 Anthropic API 迁到了自有 infra，并开源了一个“止血”组件。演讲者的结论很明确：不要只租算力；先租来学习，再把关键路径的运行层掌握在自己手里。
「编程与Agent」频道最新
- 受 OpenAI 万机群启发，开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid：只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- 20kb 函数匹配达成,banteg 召集 AI 逆向 Snail Mail 剩余 20 个挑战 — banteg · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题，供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11