爆料称 DeepSeek 用 NVIDIA 游戏卡跑小模型推理,异构算力成焦点
teortaxesTex · x · 2026-09-26
teortaxesTex 引用讨论称 DeepSeek 正使用 NVIDIA 游戏显卡为较小的模型做推理,认为这是合理且显而易见的做法——配合 Jevons 式小模型或定制 Qwen 35B 能显著加速;他也认可「10 亿美元预算中 70% 投训练」的逻辑。原推 tugot17 补充观点:随着逼近 RSI,实验室对前沿芯片的需求没有上限,普通用户将被价格挤出,因此异构算力(heterogeneous compute)将是必须关注的方向。
所属事件:传 DeepSeek 用 RTX 5090 跑小模型推理致零售断货(2 条相关)→
「Infra」频道最新
- 三年造 CPU、内存与脉冲网络:一位芯片爱好者的加速器之路 — k7agar · 2026-11-11
- CoreWeave:2027年13万张GPU到期续约可年增收近40亿美元 — zephyr_z9 · 2026-11-11
- 800 美元二手 3090 主机本地跑 DeepSeek 4.1,2 量化仅 2-3 token/s — LankyGuitar6528 · 2026-11-11
- Mark 感叹 George Hotz 当年对 Nvidia 局势的预言成真 — mark_k · 2026-11-11
- 亚马逊 Prime 360 用 AI 实时重建 NBA 比赛 3D 画面,可任意视角回放 — import_jmr · 2026-11-11
- Altman 首度明言:OpenAI 中长期要取代 Nvidia — zephyr_z9 · 2026-11-11