DGX Station 外接一块 RTX Pro 6K,DeepSeek 预fill 达 6 万 tok/s
Sentdex · x · 2026-10-07
知名 ML YouTuber Sentdex 分享了 NVIDIA DGX Station 的本地部署实测:只需加装一块 RTX Pro 6K 显卡，跑 DeepSeek V4.1 Flash 即可实现约 6 万 tok/s 的预填充(prefill)速度，TTFT 非常快；解码速度也达到 450 tok/s。他表示这是 DGX Station 目前最酷的玩法，并附上了配置配方链接。对想搭本地推理工作站的开发者是很有参考价值的性能数据。
所属事件:DGX Station 加装 RTX Pro 6K 实现 DeepSeek 高速推理(2 条相关)→
「Infra」频道最新
- Polymarket 开盘:明年年底前数据中心上天,概率仅 25% — Polymarket · 2026-10-07
- Airbnb 工程团队用真实流量回放替代合成基准测试数据库性能 — rseroter · 2026-10-07
- 推理服务商 engy 营收月增 100%,日处理 40-50 亿 Kimi K3 tokens — markjeffrey · 2026-10-07
- Reza Zadeh 称找到更快矩阵乘法算法，猜测大厂已接近指数 2 — Reza_Zadeh · 2026-10-07
- 开源 Ministack:单端口本地模拟 60+ AWS 服务,免费替代 LocalStack — tom_doerr · 2026-10-07
- EIA:AI 数据中心推动美国电力需求至 2027 年连创新高 — Polymarket · 2026-10-07