Sam Altman 称本地推理是稀缺资源错配,引发争议
mmitchell_ai · x · 2026-10-31
Sam Altman 在访谈中表示「本地推理是对稀缺资源的糟糕配置」:很多人以为开源模型就意味着能在自己电脑上跑推理、不再需要数据中心,但从全球资源配置角度看,让全世界有限的 DRAM 供给分散在每个人的电脑里、每天只被利用 5% 的时间,是非常低效的——在供给受限的环境下应追求云端的最大利用率。
maxspero 转发并讽刺性地延伸:如果按这个逻辑,把所有人的设备收进数据中心可以自动化更多劳动。该观点与「端侧 AI 是未来」的主流叙事直接相悖,引发讨论。
所属事件:Altman 称人人本地跑模型是 DRAM 资源错配,遭社区群嘲(23 条相关)→
「Infra」频道最新
- 不同 NVIDIA GPU 跑同一模型输出竟不同,BF16/FP8/FP4 精度实测 — Kyrannio · 2026-10-31
- Kubernetes AI Conformance 升级为 SIG Architecture 永久子项目 — TerryTangYuan · 2026-10-31
- Google 展示首条从太空生成的 AI 回复:一首俳句 — LinkedInNews · 2026-10-31
- llama.cpp 滑窗注意力上下文检查点堆爆内存的排查复盘 — jomi-se · 2026-10-31
- Cornell 教授联合创办的 Makora 获 175 万美元奖励,专攻 AI 提效降本 — srush_nlp · 2026-10-31
- Transformers.js 月 npm 下载量一年涨 9 倍,从 164 万冲到约 1500 万 — nicodotdev · 2026-10-31