NVIDIA DGX Station GB300 现场演示:本地跑出每秒数千 token
TheZachMueller · x · 2026-09-18
NVIDIA RTX Spark 官方账号转发 Ahmad Osman 在 MTS live 现场展示 Dell Pro Max 版 DGX Station(GB300),演示全部在本地运行、推理速度达到每秒数千 token。这是一台桌面级 DGX 工作站,面向不想依赖云端的本地大模型推理/微调场景,展示端侧算力已能支撑可观的推理吞吐。
「Infra」频道最新
- 团队 Key 各自为政,Reddit 求企业 LLM 网关选型经验 — almost1it · 2026-09-18
- 双 7900 XTX 消费机跑出 82 tok/s:RDNA3 优化版 llama.cpp 分支 — deathcom65 · 2026-09-18
- OpenAI 高管:GPU 每瓦 7-40 IQ 点,已超人类的 5 — GregCook2011 · 2026-09-18
- 烧结稀土磁体：中国精炼 91%、制造 94%，AI 硬件供应链真正的卡点 — demian_ai · 2026-09-18
- 神秘买家豪掷 1 亿美元权利金，狂买 10 月 2 日到期 AI 股看涨期权 — toptickcrypto · 2026-09-18
- 首届 PyTorch Day Japan 定档 12 月 10 日东京举办 — PyTorch · 2026-09-18