腾讯发布混元 Hy4 预览版：770B MoE 开源与 1M 上下文
ShunyuYao12 · x · 2026-08-28
腾讯正式推出混元 Hy4 预览版，主要特性包括：
- 模型规格：770B 总参数的 MoE 架构，激活参数 49B，支持 100 万上下文窗口。
- 设计理念：针对代码、文档分析、科学研究等真实工作负载构建，而非单纯优化基准测试。模型基于腾讯工程师和 WorkBuddy 的真实工作流进行协同设计（Co-design）。
- 自优化：Hy4 参与优化了自身的训练管线，包括内核优化。
- 可用性：未来两周内可在 WorkBuddy 中免费使用。
GitHub 仓库与博客文章已同步发布。
所属事件:腾讯开源混元 Hy4 Preview：770B MoE、百万上下文(28 条相关)→
「模型」频道最新
- 英伟达 Nemotron 3.5 Super VL 上线 CoreWeave：12B 激活参数多模态 MoE，输入仅 $0.25/百万 tokens — wandb · 2026-10-16
- 爆料人称 Opus 5 或采用深度循环架构，方向仍存变数 — scaling01 · 2026-10-16
- GPT-6.1 审查 arXiv：6% 论文主定理有错，近两月降至 1.5% — nitarshan · 2026-10-16
- Nvidia 联手 Nolla 后训练 Nemotron 3.5 VL，皮肤科诊断称超越前沿 — LoganGrasby · 2026-10-16
- Gemini 4 Argon 登顶 ARC-AGI-3 达 97.5%，第二家破 95% — patience_cave · 2026-10-16
- 微软 MAI 自研 3T 参数基座模型亮相，多项 held-out 评测领先 — soldni · 2026-10-16