3 张退役 V100 装 $1042 主机跑 Qwen 3.6:128K 上下文快过 $5399 Mac

bittingthembits · x · 2026-11-20

一位 homelab 玩家用 3 张被当作电子垃圾的退役 Nvidia V100 组建了 $1,042 的主机,运行 Qwen 3.6 35B:4K 上下文达 100 tokens/sec,128K 上下文达 72.7 tokens/sec——比 $5,399 的 M5 Max Mac Studio 快 19%,是 $4,700 DGX Spark 的两倍以上。

作者借此推广 Bittensor ($TAO) 的愿景:把全球散落算力组成无需许可的网络,按交付而非拥有最大数据中心来分配奖励,让开源模型 + 廉价硬件不被单一公司垄断。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →