律师用8张V100搭私有AI服务器,4-bit跑80%的DeepSeek V4.1 Flash
General-Spite1222 · reddit · 2026-11-14
此前在 Reddit 分享自建 AI 服务器的律师上了 Tom's Hardware 报道:他用 8 张 V100 组建私有服务器,加 1TB 内存和一张 RTX 3090,以 4-bit nvfp4 精度跑通约 80% 的 DeepSeek V4.1 Flash,并排查解决了电源(PSU)导致的崩溃问题。配图可见机箱内多卡并行与供电改造细节。
「Infra」频道最新
- 有人真的在用 DGX Station B300 跑本地 LLM 吗?求实测速度 — spaham · 2026-11-14
- 防火墙拦爬虫,可能把产品页从 ChatGPT 答案里删掉 — shashib · 2026-11-14
- 黄仁勋离任后英伟达怎么办?分析师解读领导层危机与股价抛售 — terencemauri · 2026-11-14
- Rust 版 LLM 网关 QuixiGate 发布:单二进制冷启动 8ms,内存仅 24MiB — QuixiAI · 2026-11-14
- 开源替代 S3 方案宣称 agent 场景存储成本可降 34.8 倍 — vincent_koc · 2026-11-14
- DeepSeek 被曝最新模型纯用华为芯片训练,行业人士质疑差距仅 6 个月说法 — ShakeelHashim · 2026-11-14