DumpsterCluster:用 60 美元显卡跑 LLaMA-70B
Oxford · hf · 2026-08-18
牛津大学推出的 DumpsterCluster 项目展示了如何利用退役 GPU 组建低成本集群来运行 LLaMA-70B 等大模型。研究表明,这种方案的经济可行性和环境效益高度依赖于当地的电价和碳排放强度。该项目探索了低成本算力获取的新途径。
「Infra」频道最新
- 谷歌开源 SAM:构建智能体 P2P 网络基础设施 — rakyll · 2026-08-18
- MiniMax H3 登陆 Colab T4:拆分流程突破内存限制 — james_hito · 2026-08-18
- KDD Cup 揭晓推荐系统大一统方案,冠军仅用 DeepSeek 搞定 — 量子位 · 2026-08-18
- Reddit 网友提议:散户拼 GPU 网格,众包跑 1T+ 开源大模型 — aliljet · 2026-08-18
- 蚂蚁集团开源 AReno:单节点搞定 LLM 的 RL 后训练与部署 — pmttyji · 2026-08-18
- 索引不需全精度:聚类压缩省 60 倍 — _reachsumit · 2026-08-18