GPU 上做权重压缩？斯坦福研究者打脸自己的直觉
realDanFu · x · 2026-10-30
Dan Fu 分享了一个让他本人先入为主认为「不可能 work」的项目：最初的直觉是「在磁盘上压缩权重听起来不错，但 GPU 解压开销会太大」，想法源自早期 CPU 压缩思路。事实证明这条路可行，具体细节在其推文串中展开。
「Infra」频道最新
- Rogers 卫星漫游扩至日澳新，加拿大手机借 Starlink 通全球 — XFreeze · 2026-10-30
- AWS 布道师发现 macOS 更新回滚:已移除的 eMudhra 证书又回到系统信任库 — kingslyj · 2026-10-30
- NVIDIA 官方教程:最大化 Jetson 内存效率并降低成本 — NVIDIAAI · 2026-10-30
- 一条命令起服务：用 transformers serve 跑 NVIDIA Nemotron 3.5 转写模型 — yb2698 · 2026-10-30
- 录屏工具 Cap 自建 GPU 农场跑转写,速度最高提升 11 倍 — JosephJacks_ · 2026-10-30
- Prime Intellect 把 DeepSeek MegaMoE 做成可训练，MoE 训练提速最高 55% — samsja19 · 2026-10-30