NVIDIA DGX Station GB300 现场演示:本地跑出每秒数千 token
TheZachMueller · x · 2026-09-18
NVIDIA RTX Spark 官方账号转发 Ahmad Osman 在 MTS live 现场展示 Dell Pro Max 版 DGX Station(GB300),演示全部在本地运行、推理速度达到每秒数千 token。这是一台桌面级 DGX 工作站,面向不想依赖云端的本地大模型推理/微调场景,展示端侧算力已能支撑可观的推理吞吐。
「Infra」频道最新
- NEURA 发布 Neuron AI,欧洲具身智能的真正考验在协同落地 — ingliguori · 2026-11-04
- S3 数据库并不慢:内存+NVMe 缓存摊薄成本,写延迟差距比想象小 — mgill25 · 2026-11-04
- 开源 gpu-unlock 项目让 GeForce AI 推理提速最高 2 倍 — paranoidray · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04
- 用一句提示词让 AI 排查跨区流量:迁移服务省掉跨大西洋延迟 — DanielLockyer · 2026-11-04
- SurrealDB 4 发布:多模型数据库瞄准 Agentic 时代 — Scobleizer · 2026-11-04