Groq LPU 跑分碾压:256 芯片达 1.1 万 TPS
beffjezos · x · 2026-08-26
博主晒出 Groq LPU 推理性能实测数据,使用 256 张芯片实现了 11k TPS(每秒 tokens),称其性能“mogging”(碾压)竞品,突显了其在高吞吐推理场景下的优势。
「Infra」频道最新
- EVE Online 启动迁移:240 万行代码升级 Python 3 — Simon Willison · 2026-08-26
- IBM Granite 模型加载后显存占用激增至 27GB — x8code · 2026-08-26
- 硬核玩家建地下数据中心,只为加热室外按摩浴缸 — curious_vii · 2026-08-26
- 超微与思科联手,为英伟达提供全栈液冷方案 — charlesliang · 2026-08-26
- Cerebras CA-6 3D 堆叠晶圆级 DRAM — beffjezos · 2026-08-26
- M5 Ultra 对比 DGX Spark:本地算力新选择 — nickbaumann_ · 2026-08-26