Groq 将首发 NVIDIA Groq 3 LPX 芯片
GroqLLC · x · 2026-08-25
Groq 宣布将成为 NVIDIA Groq 3 LPX 加速器的首批采用者,并将其与 NVIDIA Vera Rubin NVL72 平台一起部署在其 AI 推理云中。Groq 正与戴尔合作部署该硬件。NVIDIA 技术博客显示,Grok 3 LPX 在 Gemma 4 31B 模型上实现了每秒 3431 个输出令牌的速度,并支持多种拆分配置以扩展至万亿参数模型。
所属事件:戴尔联手 Groq 与英伟达推出企业级 AI 推理方案(5 条相关)→
「Infra」频道最新
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra:前沿模型上桌面 — pcuenq · 2026-10-16
- Muse-Spark 开源权重发布:816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16
- vLLM 实现 Muse Spark Open Day-0 LoRA RL,AIME 从 0.56 提至 0.85 — vllm_project · 2026-10-16
- Inferact 为 Muse Spark Open 训练 DSpark 草稿模型,一次最多出 7 个 token — vllm_project · 2026-10-16
- Cloudflare Stream WebRTC 低延迟直播正式 GA,可扩展至百万观众 — ritakozlov · 2026-10-16
- YC 孵化 Overshoot 主打推理优化:已帮客户省超 500 万美元 GPU 账单 — ycombinator · 2026-10-16