Ollama CEO:企业 80-90% token 将由开源模型承担,仅占成本 10-20%
victor_explore · x · 2026-09-06
Ollama CEO Jeffrey Morgan 预测,企业运行的全部 token 中将有 80% 到 90% 来自开源模型,而这部分或许只占企业模型成本的 10% 到 20%。
引用者 victorexplore 强调,真正值得关注的数字不是 80-90% 的占比,而是成本占比:正因为开源 token 如此便宜,企业才不必再对自己团队设用量限额,可以放开让团队随意使用。这也意味着稳态之下大多数模型将是开源的。
「Infra」频道最新
- Agent 时代 KV cache 挤爆 HBM,容量不足拖垮有效带宽 — AccBalanced · 2026-09-06
- 分析师测算混合键合 HBM 假想市场:年超 30 亿次 D2D 应用 — zephyr_z9 · 2026-09-06
- SemiAnalysis 算账:Nvidia 将 Rubin Ultra HBM 从 12-Hi 降为 8-Hi 的原因 — AccBalanced · 2026-09-06
- GPU 慢 5% 推理没事训练致命:训练与推理健康检查逻辑相反 — AccBalanced · 2026-09-06
- Substack 发布 Hot Chips 2026 投资视角回顾分析 — jwt0625 · 2026-09-06
- 训练前预判发散概率,新研究助大模型训练省算力 — burkov · 2026-09-06