律师用8张V100搭私有AI服务器,4-bit跑80%的DeepSeek V4.1 Flash

General-Spite1222 · reddit · 2026-11-14

此前在 Reddit 分享自建 AI 服务器的律师上了 Tom's Hardware 报道:他用 8 张 V100 组建私有服务器,加 1TB 内存和一张 RTX 3090,以 4-bit nvfp4 精度跑通约 80% 的 DeepSeek V4.1 Flash,并排查解决了电源(PSU)导致的崩溃问题。配图可见机箱内多卡并行与供电改造细节。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →