英伟达 Rubin NVL72 跑 Kimi K3 达每用户 850 tokens/s
scaling01 · x · 2026-10-28
据 SemiAnalysis，英伟达提交了首个基于 Rubin NVL72 的 Kimi K2.5/K3 推理提交：2.8 万亿参数下每用户吞吐超 850 tokens/s，vLLM 上吞吐提升 3 倍以上。Rubin Software 1.0 GA 即将推出。scaling01 感慨：若 Astra 或 Fable 级模型能跑到 400 tokens/s 会是怎样。
「Infra」频道最新
- Liquid AI 发布 LFM3 端侧小模型家族：1.9B 视觉模型对标 12B 级 — mhdfaran · 2026-10-28
- 统计无损 Qwen3.8 27B 量化 GGUF 发布,23GB 接近 FP8 体验 — Dany0 · 2026-10-28
- 数据中心拟占湿地，塞内卡族发声：社区不需要数据中心 — AINowInstitute · 2026-10-28
- Kimi K3.1 有望采用类 DeepSeek V3.2 的 DSA 架构改善成本 — zephyr_z9 · 2026-10-28
- VLM Run Gateway 发布：一个 API 统一运行开源 OCR、VLM 与视觉模型，直指服务商量化坑 — spillai · 2026-10-28
- 超大规模云厂商年内发债 2284 亿美元，已是 2024 全年的近 14 倍 — Beth_Kindig · 2026-10-28