企业 AI 走向模型路由：最小够用模型比最强模型更划算
ingliguori · x · 2026-10-08
Ingo 迪思路指出，更大的模型不会赢得所有工作负载，企业 AI 的经济学正让这一点越来越重要：行业多年来痴迷训练，而企业将越来越痴迷推理——因为推理会重复发生数百万甚至数十亿次，每次调用都有成本。
对企业工作负载而言，最佳模型往往不是最聪明的模型，而是能可靠完成该任务的最小模型。他给出一个可能的企业技术栈分层：
- 小模型：常规分类任务
- 专用模型：领域任务
- 前沿大模型：困难推理
- 本地模型：敏感数据
结论：未来 AI 架构不太可能是一个巨型模型，而更像一个模型路由器，智能变成一个分配问题。
「Infra」频道最新
- IBM 将 Spyre AI 加速器接入 PyTorch,借原生设备抽象实现一套框架多硬件 — PyTorch · 2026-10-08
- audio.cpp 大更新：Higgs Audio TTS 显存省 48%，支持 110+ 音频模型 — Acceptable-Cycle4645 · 2026-10-08
- 南亚 7 月营收环比涨 49.3%:合约到期重签成涨价主因 — tengyanAI · 2026-10-08
- 三星涨价最猛却签 5 年长约:关键在重定价机制而非锁价 — tengyanAI · 2026-10-08
- SK hynix 称霸 HBM 却录得四大厂最小 DRAM 涨幅,真相在口径 — tengyanAI · 2026-10-08
- 攻击者跨多家推理服务商作案,Hugging Face 职工呼吁联合封禁机制 — natolambert · 2026-10-08