开放模型可能比闭源模型更吃算力和内存
BenBajarin · x · 2026-07-23
这条观点认为：开放模型未来可能比闭源模型更吃算力、内存和网络资源。即便开放模型最终占据主流，整体算力需求也未必下降，反而可能继续上升。
- 讨论重点是开放模型的基础设施成本。
- 不只是模型能力本身，而是部署与运行开销。
- 结论偏向：开放模型时代，算力支出仍会很高。
「Infra」频道最新
- AMD Advancing AI 大会：展示 MI355X 运行大规模 MoE 模型 — ying11231 · 2026-07-23
- 韩国6月NAND闪存出口暴涨300%，AI推理算力需求正全面外溢 — tengyanAI · 2026-07-23
- 开源 DSpark 推测解码器：Inkling 解码吞吐量提升 1.89 倍 — BanghuaZ · 2026-07-23
- Fireworks AI 获英伟达投资 15 亿美元，ARR 超 10 亿，日处理 40 万亿 tokens — Beth_Kindig · 2026-07-23
- HostShift 接入 MCP，但把真实服务器变更留给人工审核命令 — oguzhane · 2026-07-23
- 纯 C CPU 推理引擎在 Xeon 上跑到 36 tok/s — shifu_legend · 2026-07-23