本地推理是稀缺资源的糟糕分配?DRAM 争论引热议
JHochderffer · x · 2026-10-30
针对「本地推理对全球资源分配其实是灾难」的观点——很多人以为开源模型就能在自己电脑上跑推理、不再需要数据中心,但让每人都占用稀缺 DRAM 资源非常低效——回帖者反驳称:未充分利用有限的 DRAM 供应,正是为隐私、安全和健壮性付出的代价,而且是很小的代价。
所属事件:Altman 称人人本地推理是稀缺 DRAM 的糟糕分配(4 条相关)→
「Infra」频道最新
- 印度版芯片自立计划启动:Junction 12月班加罗尔办两周冲刺 — itsarnavb · 2026-10-30
- Ollama:全球企业团队正用其将工作流迁移至开源模型 — ollama · 2026-10-30
- Rogers 卫星漫游扩至日澳新,加拿大手机借 Starlink 通全球 — XFreeze · 2026-10-30
- AWS 布道师发现 macOS 更新回滚:已移除的 eMudhra 证书又回到系统信任库 — kingslyj · 2026-10-30
- NVIDIA 官方教程:最大化 Jetson 内存效率并降低成本 — NVIDIAAI · 2026-10-30
- 一条命令起服务:用 transformers serve 跑 NVIDIA Nemotron 3.5 转写模型 — yb2698 · 2026-10-30