英伟达 Groq 3 LPX 全面量产，推理速度达 3400 token/秒
zephyr_z9 · x · 2026-08-24
英伟达宣布低延迟推理加速器 Groq 3 LPX 进入全面量产，该芯片设计用于扩展 Vera Rubin NVL72 系统。
据 Artificial Analysis 测试，Groq 3 LPX 运行 Gemma 4 31B、100K token 上下文时达到 3400 output tokens/秒，英伟达称其面向延迟敏感的 agent 工作负载，响应速度比最接近的竞品快 4 倍。
架构上将推理任务拆分：Rubin GPU 负责大规模上下文处理，LPX 负责快速 token 生成，目标场景为编码 agent、多步推理与工具调用。Nebius 将成为首个部署 Groq 3 LPX 的 AI 云（通过 Nebius Token Factory）。
所属事件:英伟达 Groq 3 LPX 全面量产，Nebius 首家上线(18 条相关)→
「Infra」频道最新
- 微软深度优化 Windows 迎接 Nvidia RTX Spark：两步装好本地 AI agent — tomwarren · 2026-10-15
- 微软联手Nvidia优化Windows,为RTX Spark Arm笔记本铺路 — The Verge AI · 2026-10-15
- 全球智能手机出货量暴跌 22%,创史上最大季度跌幅,元凶是 AI 抢内存 — Polymarket · 2026-10-15
- SK 海力士再跌 11%:已低于 2027 财年预期利润 3 倍市盈率 — JOBhakdi · 2026-10-15
- ASML 高管:「我们在欧洲一台光刻机都卖不出去」 — NinaDSchick · 2026-10-15
- Nvidia 将 SPCX 归入「超大规模」类，云厂商依赖度暗藏变数 — RihardJarc · 2026-10-15