华为开源 5050 亿参数盘古 MoE，专为长上下文智能体打造
智东西 · wechat · 2026-07-31
华为正式开源基于昇腾 NPU 训练的盘古 MoE 模型 openPangu-2.0-Pro。该模型总参数 5050 亿，激活参数 180 亿，支持 512K 上下文长度，专为长上下文智能体任务打造。
架构方面，模型采用 DSA+SWA 独立分层混合注意力机制，结合 4 支流 mHC 架构与 Muon 优化器，并搭载 3 头 MTP 模块以提升推理速度。华为发现，扎实的基础推理能力能支撑复杂智能体行为，而智能体的持续运行也能反向优化模型的长轨迹处理能力。
官方技术报告未附第三方模型对比结果，但指出其在通用能力与智能体测试中表现优异，仅在复杂软件工程任务上与顶尖模型存在差距。华为计划未来以昇腾硬件生态为基础，进一步结合端侧算力扩展智能体生态。
所属事件:华为开源 505B 参数盘古 MoE 模型(3 条相关)→
「编程与Agent」频道最新
- ThePrimeagen 调侃:给了无限 token,产出还是个 Electron 应用 — seatedro · 2026-10-17
- 长文详解 Generative UI:让 Agent 用活界面回答而非文字墙 — EXM7777 · 2026-10-17
- MCP 工具上线前审查:安全发现不过关,测试满分也不放行 — SamuelFmedeiros · 2026-10-17
- DeepSeek 视觉能力快速进化：Agent 可自查截图迭代建 3D 场景 — cedric_chee · 2026-10-17
- 被客户赖账500美元一年后，他让AI Agent自主打电话催债 — curious_vii · 2026-10-17
- AI:AM 播客文字版：agent 权限失控、隐藏效价与形式化验证抓内核 bug — The Cognitive Revolution · 2026-10-17