欧盟开源模型 EUROPA 冲击万亿参数,单卡吞吐已优化 14 倍
mawcopolow · reddit · 2026-11-15
欧盟开源模型 EUROPA 正向近 1 万亿参数规模推进。附图（来自 MACCUS 基于 Domyn 11 月 12 日技术博客的数据）展示了其在 JUPITER 超算上的单 GPU 训练吞吐优化历程：从起点 90 tokens/s/GPU，经重计算与更长序列、激活值卸载到 CPU 内存、Muon 优化器计算上 GPU、专家权重 FP8 化、梯度 bf16、内存分配器修复、NCCL 通信调优等一系列手段，最终提升到 1293 tokens/s/GPU，约 14 倍。
「Infra」频道最新
- SemiAnalysis 基准:谷歌 TPUv7 推理性价比最高达英伟达 2.7 倍 — SumitGup · 2026-11-15
- 美法院驳回动议，三星SK海力士美光DRAM限供案将继续审理 — SumitGup · 2026-11-15
- 2009 年黄仁勋就预言 CUDA 市值数十亿美元，当时股价仅 0.2 美元 — GregoryDiamos · 2026-11-15
- 前 NVIDIA 工程师回忆：2012 年建深度学习集群获黄仁勋力挺 — GregoryDiamos · 2026-11-15
- 买卡、租卡还是调 API?利用率决定每 GPU 小时的真实成本 — Panther1537 · 2026-11-15
- 64 位寻址远未用尽:多数 x86 仅用 48 位,128 位指针纯属浪费 — srimisra · 2026-11-15