DumpsterCluster:用退役 GPU 搭建低成本大模型推理集群

牛津大学推出的 DumpsterCluster 项目探索将退役 GPU 组建成集群,用于 LLaMA-70B 等现代大语言模型的推理服务,甚至可用 60 美元的显卡搭建,旨在挖掘旧硬件的剩余价值。研究指出,该方案的经济可行性与环境效益高度依赖于具体条件,为低成本部署大模型提供了新思路。

2026-08-18 ~ 2026-08-19 · 2 条相关