GLM 5.3 Flash NVFP4 跨 GPU P2P 边界性能实测开跑
TheZachMueller · x · 2026-10-27
TheZachMueller 正在为 GLM 5.3 Flash NVFP4 启动 AIPerf 8k/1k 300s 测试,覆盖除 ADA 外的所有 GPU 组合,核心目的是观察 GPU 跨 P2P 边界通信时会发生什么。
他指出最大 cc(计算能力组合)约为 41 时就会耗尽内存,因此实际跑到 32 为止不设上限。附图是一个'I'm a little bit suspicious'的梗图表达对结果的谨慎态度。
「Infra」频道最新
- Lovable 月调 7536 亿次 Workers,从 Next.js 迁至 TanStack Start — ritakozlov · 2026-10-27
- 布拉格实验室 BottleCapAI 发三款 ThinkingCap 模型，思考 token 最高省 69% — JFPuget · 2026-10-27
- 本地向量路由 100k 工具 top-1 达 70.7%、延迟 9.6ms，吊打 BM25 — Key_Coconut_9269 · 2026-10-27
- 单卡 RTX 3090 同时跑 4 个编码 agent，自研 CUDA 引擎达 290 tok/s — Adorable_Weakness_39 · 2026-10-27
- Google 联合 Red Hat/IBM 发布 llm-d 1.0,千级 Agent 实测分布式推理 — dl_weekly · 2026-10-27
- Transformers v5.21 发布：FP8 KV 缓存、MoE 分片与新 TTS 模型 — LysandreJik · 2026-10-27