Dell 携手 NVIDIA 和 Groq，落地每秒 3400 Token 推理方案
IanAndrewsDC · x · 2026-08-25
Dell 宣布与 NVIDIA 和 Groq 合作，在企业级市场推出新型 AI 推理解决方案。
- 硬件配置：部署搭载 NVIDIA Groq 3 LPX 和 Vera Rubin NVL72 的系统，由 Dell Technologies 提供。
- 性能基准：实测输出速度达到 3,400 tokens/sec，交互性比最近的替代方案高 4 倍。
- 生态规模：目前已有超过 600 万开发者和数千家企业在 GroqCloud 上进行构建，此次合作旨在进一步推动企业 AI 推理能力。
所属事件:戴尔联手 Groq 与英伟达推出企业级 AI 推理方案(5 条相关)→
「Infra」频道最新
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra：前沿模型上桌面 — pcuenq · 2026-10-16
- Muse-Spark 开源权重发布：816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16
- vLLM 实现 Muse Spark Open Day-0 LoRA RL，AIME 从 0.56 提至 0.85 — vllm_project · 2026-10-16
- Inferact 为 Muse Spark Open 训练 DSpark 草稿模型，一次最多出 7 个 token — vllm_project · 2026-10-16
- Cloudflare Stream WebRTC 低延迟直播正式 GA,可扩展至百万观众 — ritakozlov · 2026-10-16
- YC 孵化 Overshoot 主打推理优化：已帮客户省超 500 万美元 GPU 账单 — ycombinator · 2026-10-16