网友借到 DGX Station 一个月：GB300 实测数据全公开
CookEasy · reddit · 2026-11-14
Reddit 用户拿到 ASUS ET900N G3 DGX Station（GB300，约 250GB 显存、72 Grace 核心、750GB 内存、液冷，另带一张 RTX PRO 6000）独享一个月，公开了前两天的 NVFP4 推理数据（1/16/64 并发总 tok/s）：
- Qwen3.8-Flash-Next：vLLM 219/1370/2700；SGLang 221/1537/3002（SGLang 高并发更优）
- DeepSeek V4.1 Flash：vLLM nightly 单请求 59、16 并发 246，加载需 19 分钟
- 整机满载约 785W、50°C；Kimi K3.1 Pro 塞不下
后续计划测试 vLLM vs SGLang vs TensorRT-LLM（后者装不进 NGC 容器外环境）、最大可运行模型、并发 agent 上限等，并向网友征集测试需求。
「Infra」频道最新
- 科技债收益率创 2009 年来新高，AI 借贷潮显疲态 — SumitGup · 2026-11-14
- Ollada:扩散语言模型版 Ollama,收录 1.7B–8B 六款模型 — OpenSourceRulesz · 2026-11-14
- Caltech 数学马拉松获共享算力网格支持，面向大院外研究者 — _sathvikr · 2026-11-14
- AWS 官方教程：零改造实现 Bedrock 上 Claude Code 等工具的按人成本核算 — AWS ML Blog · 2026-11-14
- 北达科他小镇公投3:1否决数据中心限制令,市长逐一驳斥担忧 — kevinnbass · 2026-11-14
- 开源项目宣称 RTX 4090 跑 Qwen3.6 提速 6-11 倍,附完整仓库 — AI4Science · 2026-11-14