ERNIE Evolve 自动优化 ERNIE 5.5 Flash：昆仑 P800 生成速度提升至基线 623.6%
BaiduResearch · x · 2026-11-10
百度研究院公布 ERNIE Evolve 在 ERNIE 5.5 Flash 上完成的三项推理优化成果，附完整优化路径曲线：
- 低延迟推理：精简昆仑 P800 上的执行与通信路径，经投机解码、融合 mHC、原生注意力、缓存专家执行、低延迟专家分发等 15 步迭代，生成速度达基线的 623.6%。
- 确定性推理：优化采样与注意力实现(Gumbel 采样、top-k/top-p 融合、2-D 网格 kernel 等)，吞吐达基线 133.7%,同时保持逐比特确定性。
- GPU 解码：改进 MoE 调度与 kernel 执行(量化融合进 mHC、专家 GEMM tile 调度、草稿路径融合等)，解码速度达基线 114.9%,无精度损失。
三项优化均经过严格负载测试与正确性验证。
所属事件:百度发布并开源 ERNIE Evolve 自动研究系统(6 条相关)→
「Infra」频道最新
- Fireworks 遭黑客攻击泄露客户数据,GPU 稀缺令客户难撤离 — AccBalanced · 2026-11-10
- GB300 租金跌至 12-15 美元/小时，推理算力过剩但需求跟不上 — teodorio · 2026-11-10
- Meta FAIR 提出 e-means：1/10 轮次超越 k-means，GPU 提速最高 45 倍 — burny_tech · 2026-11-10
- 传英伟达砍单台积电，AMD 与 ASIC 阵营有望抢接产能 — zephyr_z9 · 2026-11-10
- 实测劝退:RTX 5090 跑本地 LLM,电费都赚不回 1 美元 API 费 — PurzBeats · 2026-11-10
- CoreWeave 年底前需再上线约 350MW，去年就栽在交付延期 — tengyanAI · 2026-11-10