英伟达官宣 Groq 3 LPX 量产:推理速度破纪录,Nebius 首家采用

haider1 · x · 2026-08-25

NVIDIA 官方宣布 Groq 3 LPX 交互式 AI 推理加速器全面量产,作为 Vera Rubin NVL72 平台的扩展,为延迟敏感的 agentic 工作负载提供超快 token 生成,Nebius 成为首家采用的 AI 云。

关键数据:在 Artificial Analysis 基准测试中,运行开源智能体模型 Gemma 4 31B(10 万 token 上下文)时创纪录地达到 3400 output tokens/s,为该模型历史最快;可将编码类智能体任务从数小时缩短到数分钟,并为智能体提供 4 倍响应性提升。

背景:智能体系统会在成百上千个推理步骤中生成海量 token,token 生成速度直接决定智能体实时推理与执行复杂任务的能力。

所属事件:英伟达 Groq 3 LPX 全面量产,Nebius 首家上线(18 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →