4 张 H200 跑 DeepSeek v4.1：2400 tps，单卡 600 tok/s
teortaxesTex · x · 2026-11-01
开发者 @0xSero 实测：4 张 H200(功耗限制、无量化)部署 DeepSeek v4.1-flash，可支撑 16 个并发用户、每人 150+ tok/s，整套成本约 12 万美元。teortaxesTex 补充：总计约 2400 tps，即单卡 600 tok/s，但感叹其 scaling 表现很差——DeepSeek 是为数据中心设计的，希望 nano 版本能改变这一局面。
「Infra」频道最新
- CI 账单对比：同样 2 万分钟 GitHub $120、Blacksmith $80、Celesto $13 — aniketmaurya · 2026-11-01
- Celesto 推出 CI Runner:改一行配置,价格比 GitHub Actions 便宜近 90% — aniketmaurya · 2026-11-01
- 三菱J级燃气轮机效率超64%,订单已排到数年后 — PAstynome · 2026-11-01
- 谷歌被指在得州 Claude 建最大数据中心:2027 年底约 227.9 万 H50 等效算力、138 亿美元投入 — scaling01 · 2026-11-01
- Meta 股权融资扩至 975 亿美元创纪录,英伟达 AMD 认购 40 亿 — Beth_Kindig · 2026-11-01
- TrendForce 预测服务器 CPU 出货 2026 年增 31%,2027 年破 40% — Beth_Kindig · 2026-11-01