V100 还是 RTX 9700?本地 LLM 工作站的首卡纠结
Numerous-Ad6217 · reddit · 2026-10-17
一位正在搭建本地 LLM 工作站的用户在 r/LocalLLaMA 求助:二手 V100 价格便宜得多,但已不被未来 CUDA 版本支持,值不值得选?他提到当前各种持续优化(如针对 MoE 的 n-grams 推理、diffusion 相关进展)可能延长老卡寿命,但对快速演进的生态感到应接不暇。
「Infra」频道最新
- mrfakename 发布 DeepSeek-V4.1-Flash-1017 GGUF 量化,Q8_0 达 473GiB — realmrfakename · 2026-10-18
- DeepSeek 新模型 4 张 RTX Pro 本地跑出 300 TPS，NVMe 卸载立功 — TheZachMueller · 2026-10-18
- SGLang Summit 赞助商一周从 11 家增至 36 家 — ying11231 · 2026-10-18
- 研究者用智能体检索算法纪录:矩阵乘法指数最早在 5 亿维降到 2.7 以下 — IgorCarron · 2026-10-18
- Dell：内存芯片成 AI 服务器最大瓶颈，明年供应「会更糟」 — firstadopter · 2026-10-18
- NVIDIA 应用默认划走 32GB 内存，64GB 机器跑本地 AI 需手动改设置 — draginol · 2026-10-18