AI 基础设施正逐层解耦:模型、Agent、推理、算力成四个独立选择
_changxu · x · 2026-09-09
作者认为 AI 基础设施正在每个层面解绑。去年选 AI 供应商基本等于选择整套技术栈,但到 2026 年,一个决定正在变成四个独立选择:
- 模型:选哪种能力
- Harness:用哪个 agent 循环把能力变成行动
- 推理:模型如何运行
- 算力:在哪里运行
这不是简单的闭源转向开源,而是从一体化产品转向围绕「可替换性」设计的架构,没有任何一层呈现赢家通吃。
对开发者是好事:更多自主权、定制性、更好经济性与更少锁定。但未管理的选择会变成运维复杂性,并催生新控制点:
- 更多模型 → 中立网关(评估、路由、定价、故障切换,如 OpenRouter)
- 更多专用 agent → 连接环境、训练、评测与服务的设施(如 Fireworks AI)
- 更多异构硬件 → 把工作负载映射到合适芯片的系统(如 Gimlet Labs)
- 更多部署环境 → 跨环境的控制平面
结论:解绑不消灭平台,而是把价值推向让选择可运营的中立控制平面——「AI 的未来是选择,赢家是让选择可运转的人」。
所属事件:AI 基础设施逐层解耦，一次选型变模型框架推理算力四选(2 条相关)→
「Infra」频道最新
- vLLM 发布 AgentX 方案:全栈优化真实 Agentic 推理服务 — jfiance · 2026-09-09
- Desert Ant Labs 发布：给所有产品装上端侧智能 — Arcuru · 2026-09-09
- Qwen3-30B-A3B 配 0.6B 草稿模型，本地投机解码提速 1.5 倍 — Arindam_1729 · 2026-09-09
- 投机解码科普:可让 LLM 推理提速约一倍 — blaizedsouza · 2026-09-09
- Cerebras CTO 多场芯片架构演讲几乎无人看，信息高度分散 — blaizedsouza · 2026-09-09
- NVIDIA Cosmos3(64B)INT4 量化版可在 Mac 本地跑文生图与图生视频 — Formal-Swordfish-228 · 2026-09-09