分析称华为 Ascend 950DT 可能在能效上超过 B300
teortaxesTex · x · 2026-07-21
这条引用讨论了华为下一代 Ascend 950DT 与 Nvidia B300 的推理能效对比,核心指标是 tokens-per-watt。
引用里的分析认为:
- 按已公布规格和假定功耗推算,Ascend 950DT 可能在 tokens-per-watt 上超过 B300。
- 现有的 CloudMatrix 384 代际,在 API 厂商希望维持的 50 tok/s 速度档位上,已经接近持平。
- 这套推算参考了华为公开的 DeepSeek-R1 服务结果,并根据 7/27 权重发布前的 K3 结构做了外推。
「Infra」频道最新
- Alchemy 推出 Lambda Web Functions,Node 版 Web 服务器直接上 Lambda — samgoodwin89 · 2026-10-27
- 重写后的蒸馏 SDK 每次调用开销降低 5–100 倍,包体积缩小 2–6 倍 — samgoodwin89 · 2026-10-27
- 导入全部 438 个 AWS 服务:内存从 227MB 降至 13.9MB,提速 11 倍 — samgoodwin89 · 2026-10-27
- 推理服务商自造挤利润的市场:出路只有每 GPU 小时榨出更多 token — AccBalanced · 2026-10-27
- EMNLP Oral 论文:免训练 KV 缓存驱逐实现 10 倍内存压缩 — yuz9yuz · 2026-10-27
- 投资机构向小型 neocloud 放短期 GPU 贷款,瞄准低价收抵押卡 — AccBalanced · 2026-10-27