Sam Altman称本地推理是稀缺算力的糟糕分配，遭开发者反驳
max_paperclips · x · 2026-10-30
Sam Altman 在访谈中提出争议观点：本地推理是对稀缺资源的糟糕分配——很多人以为开源模型普及后就不用依赖数据中心，但从全局看，让家家户户的 DRAM 大部分时间闲置（利用率仅 5%）非常浪费，在供给受限的环境下应追求云端的最大利用率。转发者 ArielKwiat 反驳：除非你需要一个完全私有、与你自己对齐而非服务于公司的模型——这正是本地推理不可替代的场景。还有人讽刺照此逻辑富豪是否也该上交超跑。
所属事件:Altman 称本地推理浪费 DRAM 引反弹，并称内部新模型连破难题、或需限制模型智能上限(37 条相关)→
「Infra」频道最新
- 从业者直言:重补贴下做前沿 AI 实验依然昂贵 — andreisavu · 2026-10-31
- 推理引擎 Resin 新增 KV cache 分层存储，可用 CPU 内存扩 GPU 显存 — andersonbcdefg · 2026-10-31
- Rust 版 MLIP 推理引擎 llmlip-rs：比 PyTorch MACE 快 17.7 倍 — CatAstro_Piyush · 2026-10-31
- MOSS Image 搭配 NVIDIA PiD：无 VAE 直出 4K，秒级高清生图 — TimeTruth2490 · 2026-10-31
- Anthropic S-1 数据推算:订阅仅占收入 18%,却烧掉过半算力 — teortaxesTex · 2026-10-31
- Reddit 讨论：4-bit 量化可省 75% 内存，为何大厂不用 — Excellent_Place4977 · 2026-10-31