英伟达 Groq 3 LPX 全面量产，Nebius 首家上线
英伟达宣布交互式 AI 推理加速器 Groq 3 LPX 进入全面量产，机架年内投入运营；AI 云厂商 Nebius 同步成为首个将该芯片上线自有平台的厂商。Artificial Analysis 实测其运行 Gemma 4 31B 时输出速度约 3,431 token/秒，创同类纪录。该芯片是 Vera Rubin NVL72 系统的扩展，专为长上下文、低延迟的 Agent 场景设计，也是去年约 200 亿美元 Groq 授权与人才交易落地后的首个成果，其投产或将改变超低延迟推理市场的竞争格局。
已确认
- Groq 3 LPX 已全面投产，定位为 Vera Rubin NVL72 平台的扩展芯片，为延迟敏感的 agentic 工作负载提供超快 token 生成，上下文窗口达 10 万（@zephyrz9、@ctnzr、@heypearlai、@badumtsssst 等多帖转述官方消息）。
- Artificial Analysis 在 NVIDIA 授予的早期私有部署上实测，运行 Gemma 4 31B 时在 1 万和 10 万输入长度下均测得约 3,431 token/秒，创输出速度纪录，显著快于现有公开端点（@ArtificialAnlys、@zephyrz9、@ctnzr、@heypearlai）；@ctnzr 亦称该平台使 Vera Rubin 推理提速 4 倍。
- NVIDIA LPX 团队发布技术博客披露更多性能数据：Gemma 4 在高质量设置下达到 10,996 OTSU 速度，在 100K 输入上下文下中位数速度为 3,431 OTSU；还展示了与 2T 级模型的结合效果（@ricklamers 两帖、@AccBalanced）。
- Nebius 宣布成为首个在自有 AI 云平台上线 Groq 3 LPX 的厂商，旨在提升 Vera Rubin NVL72 的 token 生成速度，将超低延迟推理与领先开源模型的生产运行整合到同一平台（@demianai、@BenBajarin、@IanAndrewsDC）；Nebius 称 Rubin 系统每兆瓦 agent 吞吐提升至 30 倍（@demianai）。
- Groq 方面亦宣布推出 LPX 系统，可与 NVIDIA 下一代 GPU 配合工作，目标是打破推理「快速」与「廉价」之间的取舍，实现可靠、大规模的高性价比推理；Groq 强调推理而非训练才是当前 AI 创造价值的关键瓶颈，并正在建设数百兆瓦级推理容量（@goyalshaliniuk）。
- Ian Andrews 指出这是去年 Groq 与英伟达授权协议的首个成果，并将其与英伟达「AI 工厂」栈战略及系统迭代节奏关联（@IanAndrewsDC）；@eyishazyer 补充称该交易为约 200 亿美元的 Groq 授权与人才交易，LPX 在交易达成 8 个月后即进入全面量产。
- 据 WSJ 报道（@rohanpaulai 转述），Agentic AI 带来两大计算挑战：处理海量上下文和极低延迟生成 token；单个 Agent 任务可能需要数百个连续推理步骤，毫秒级延迟会逐步累积，Groq 3 LPX 正是为解决长 AI Agent 工作流中的延迟累积问题而设计。
尚未确认
- @eyishazyer 提到 SpaceXAI 宣布部署英伟达新 Vera「AI agent 专用 CPU」，此信息仅见该帖转述，暂无其他帖子佐证。
为什么重要
- @demianai 转述 Nebius 的思考框架：在「AI 工厂」视角下，电力才是稀缺资源，衡量标准不再是峰值 FLOPS，而是单位能耗下的推理吞吐，LPX 的低延迟特性契合 Agent 系统对响应速度的高要求。
- 超低延迟推理与领先开源模型生产运行的整合，加之 Groq 对规模化低成本推理的投入，可能改变 AI 云厂商在 Agent 推理市场的竞争格局。
- 从大额授权交易签署到芯片全面量产仅约 8 个月，也反映出英伟达系统级产品迭代节奏的加快。
2026-08-24 ~ 2026-08-26 · 18 条相关
一手来源
- 英伟达 Groq 3 LPX 全面量产，推理速度达 3400 token/秒 — zephyr_z9 ·
- 实测 3431 tokens/s：NVIDIA Groq 3 LPX 跑 Gemma 4 31B 创输出速度纪录 — ArtificialAnlys ·
- NVIDIA 确认 Groq LPX 投产，Nebius 首家接入云服务 — IanAndrewsDC ·
- 【源头】英伟达 Groq 3 LPX 全面量产，推理速度达 3400 token/秒 — zephyr_z9 · 2026-08-24
- Nebius 率先采用 NVIDIA Groq 3 LPX 加速推理 — BenBajarin · 2026-08-25
- 【源头】NVIDIA 确认 Groq LPX 投产，Nebius 首家接入云服务 — IanAndrewsDC · 2026-08-25
- NVIDIA 技术博客：Gemma 4 推理速度突破 1 万 OTSU — ricklamers · 2026-08-25
- NVIDIA Groq 3 LPX 实测：Gemma 4 跑出 3431 tok/s — ricklamers · 2026-08-25
- Nebius 上线 NVIDIA Groq 3 LPX，Rubin 系统每兆瓦 agent 吞吐提升至 30 倍 — demian_ai · 2026-08-25
- NVIDIA 推出 Groq 3 LPX，Vera Rubin 推理提速 4 倍 — ctnzr · 2026-08-25
- 推理云 Groq 发布 LPX，兼顾超快速度与低成本 — goyalshaliniuk · 2026-08-25
- Groq 3 LPX 全面量产,首颗 AI agent 专用 CPU Vera 落地 — eyishazyer · 2026-08-25
- 英伟达 Groq 3 LPX 攻克 Agent 长序列低延迟难题 — rohanpaul_ai · 2026-08-26
- NVIDIA 推出 Groq 3 LPX 加速 AI Agent — badumtsssst · 2026-08-26
另有 7 条近重复转述:nvidia · heypearlai · haider1 · AccBalanced · ArtificialAnlys · IanAndrewsDC · tomjaguarpaw