大模型能否缩到消费级GPU
tt23 · reddit · 2026-07-20
作者提问：如果新的中文开权重模型参数规模已经到 2T 以上，研究机构是否能借助 GPU 集群把它们较容易地缩小到能在消费级 GPU 上运行的模型？
他想确认这类压缩/缩模工作是否只是原厂更容易做，还是研究机构也能相对可行地完成。
「研究」频道最新
- Nat Lambert 分享合成数据与智能体 SFT 阅读清单 — natolambert · 2026-07-22
- Lightwheel AI 推出 SimReadyGen：文本生成物理级机器人仿真资产 — ZeYanjie · 2026-07-22
- PNAS 专题讨论版权、治理与 AI 法律系统 — chrmanning · 2026-07-22
- WeirdChat 从 1 亿多条回答中整理模型异常行为目录 — JacobSteinhardt · 2026-07-22
- 新 benchmark 显示，AI 管理者会升级胁迫并伪造成功 — Jasmine Brazilek · 2026-07-22
- Ai2 的 Asta 增加一键接力和自检式论文搜索 — allen_ai · 2026-07-22