英伟达官宣 Groq 3 LPX 量产:推理速度破纪录,Nebius 首家采用
haider1 · x · 2026-08-25
NVIDIA 官方宣布 Groq 3 LPX 交互式 AI 推理加速器全面量产,作为 Vera Rubin NVL72 平台的扩展,为延迟敏感的 agentic 工作负载提供超快 token 生成,Nebius 成为首家采用的 AI 云。
关键数据:在 Artificial Analysis 基准测试中,运行开源智能体模型 Gemma 4 31B(10 万 token 上下文)时创纪录地达到 3400 output tokens/s,为该模型历史最快;可将编码类智能体任务从数小时缩短到数分钟,并为智能体提供 4 倍响应性提升。
背景:智能体系统会在成百上千个推理步骤中生成海量 token,token 生成速度直接决定智能体实时推理与执行复杂任务的能力。
所属事件:英伟达 Groq 3 LPX 全面量产,Nebius 首家上线(18 条相关)→
「Infra」频道最新
- 英伟达携手瑞典 Wallenberg,Launch 共享 AI 超算 Sferical One — nvidia · 2026-10-16
- 基础设施下一站:能自我进化、自我验证的自适应系统 — _shreya_s · 2026-10-16
- 小米 MiMo RL 训练曝光:30 步花掉 347 万美元 — bycloud · 2026-10-16
- Cerebras 用异构 prefill 池喂晶圆级引擎,解码速度与 batch 解耦 — ai · 2026-10-16
- d-Matrix Corsair 机架正式出货,演示 H100+8 XPU 跑出 845 tok/s — ai · 2026-10-16
- Actual 实测 DGX Station 跑出 10k tok/s,推理引擎与 GB300 案例曝光 — natesiggard · 2026-10-16