Sam Altman 称本地推理浪费资源:全球 DRAM 稀缺不应闲置在家用电脑
teropa · x · 2026-10-31
Sam Altman 在被引言论中称,「很多人想要本地推理,并以为开源模型出现后问题就解决了」,但从全球资源分配角度看,让大量有限的 DRAM 闲置在个人电脑里、利用率仅约 5%,在供给严重受限的环境下是「相当糟糕的分配」,算力应集中在云端实现最大利用率。
转发者 WBBaskerville 评论称,这本质上就是在说「人们想拥有自己的财产,但不应被允许」,原本期待有更深层的论证结果并没有。
所属事件:Altman 称本地推理浪费 DRAM 引反弹,并称内部新模型连破难题、或需限制模型智能上限(37 条相关)→
「Infra」频道最新
- 从业者直言:重补贴下做前沿 AI 实验依然昂贵 — andreisavu · 2026-10-31
- 推理引擎 Resin 新增 KV cache 分层存储,可用 CPU 内存扩 GPU 显存 — andersonbcdefg · 2026-10-31
- Rust 版 MLIP 推理引擎 llmlip-rs:比 PyTorch MACE 快 17.7 倍 — CatAstro_Piyush · 2026-10-31
- MOSS Image 搭配 NVIDIA PiD:无 VAE 直出 4K,秒级高清生图 — TimeTruth2490 · 2026-10-31
- Anthropic S-1 数据推算:订阅仅占收入 18%,却烧掉过半算力 — teortaxesTex · 2026-10-31
- Reddit 讨论:4-bit 量化可省 75% 内存,为何大厂不用 — Excellent_Place4977 · 2026-10-31