Sam Altman：本地推理是对稀缺算力的糟糕分配，云上利用率才是正解
morqon · x · 2026-10-30
Sam Altman 认为「开源模型让本地推理已解决」的直觉是错的：让每个人家里囤一块全球供应有限的 DRAM、一天只用 5% 的时间，从全局资源分配看非常糟糕。在供给紧缺的环境下，应该追求数据中心侧的最大利用率，而非把算力分散到终端。
所属事件:Altman：人人本地跑模型是对全球算力的糟糕分配(3 条相关)→
「Infra」频道最新
- 摩根士丹利暂缓 Anthropic 得州数据中心 50-70 亿美元债券销售 — rohanpaul_ai · 2026-10-30
- Anthropic 德州数据中心 50-70 亿美元垃圾债发售被搁置 — rohanpaul_ai · 2026-10-30
- GPU 上做权重压缩？斯坦福研究者打脸自己的直觉 — realDanFu · 2026-10-30
- 缓存 token 详解：agent 循环为何重复付费，命中可省 50 倍 — Arindam_1729 · 2026-10-30
- GB300 单托盘跑 DeepSeek Flash：每用户近 1000 tok/s，百万 token 仅 7 美分 — bookwormengr · 2026-10-30
- Epoch AI:Nvidia 使美国 GDP 每年被低估约 0.3 个百分点 — Jsevillamol · 2026-10-30