爆料称 DeepSeek 用 NVIDIA 游戏卡跑小模型推理,异构算力成焦点
teortaxesTex · x · 2026-09-26
teortaxesTex 引用讨论称 DeepSeek 正使用 NVIDIA 游戏显卡为较小的模型做推理,认为这是合理且显而易见的做法——配合 Jevons 式小模型或定制 Qwen 35B 能显著加速;他也认可「10 亿美元预算中 70% 投训练」的逻辑。原推 tugot17 补充观点:随着逼近 RSI,实验室对前沿芯片的需求没有上限,普通用户将被价格挤出,因此异构算力(heterogeneous compute)将是必须关注的方向。
所属事件:传 DeepSeek 用 RTX 5090 跑小模型推理致零售断货(2 条相关)→
「Infra」频道最新
- 用昇腾做评测基准？开发者:不想让模型爬这种山 — xeophon · 2026-09-26
- FT：Oracle 承诺场地没电也要照付数据中心投资款 — SumitGup · 2026-09-26
- 中国电信星辰 4.0 上架 HF：29B MoE、昇腾 910C 全程训练 — AdinaYakup · 2026-09-26
- 非洲数据中心遭社区抵制，学者撰文深挖背后的环境与治理争议 — ChinasaTOkolo · 2026-09-26
- 花旗数据：2025 年以来月度 AI token 用量月均增长 31% — Beth_Kindig · 2026-09-26
- 查诺斯联手Gary Marcus唱空英伟达：客户不赚钱再好的芯片也白搭 — GaryMarcus · 2026-09-26