华为开源 505B 参数 MoE 模型 openPangu-2.0-Pro
zephyr_z9 · x · 2026-07-31
华为旗舰级开源权重模型 openPangu-2.0-Pro 已上线 Hugging Face。该模型总参数量达 505B,每 token 激活参数为 18B,支持 512K 上下文,并在约 34T tokens 的数据上完成训练。
最核心的看点不在于跑分,而是该模型完全基于华为昇腾(Ascend)NPU 训练。这证明了在英伟达生态之外,依然可以端到端地完成前沿级 MoE 模型的训练。
所属事件:华为开源 505B 参数盘古 MoE 模型(3 条相关)→
「Infra」频道最新
- AI 算力竞赛的隐形功臣:数据中心电源管理芯片决定能效上限 — Olivier__OG · 2026-10-17
- 35B 多模态模型跑进 3GB 内存:MiniCPM-V 4.7 全程离线读懂家电面板 — alifcoder · 2026-10-17
- 本地跑 Qwen3.8-Flash-Next:换全量 FP8 n-gram 表质量明显提升 — sillynoobhorse · 2026-10-17
- 单卡 A100 本地跑 Nemotron 3.5,169 tok/s 处理百份病历仅 2 美分 — MaziyarPanahi · 2026-10-17
- NVIDIA 开源 AIPerf 基准工具 + Triton 官方教程:推理性能测量的两块拼图 — techNmak · 2026-10-17
- Triton 官方 GPU 编程教程:从向量加法到融合注意力 — techNmak · 2026-10-17