腾讯发布 770B MoE 开源模型 Hy4,支持百万上下文
haider1 · x · 2026-08-28
腾讯发布混元大模型 Hy4 预览版。该模型为 770B MoE 架构,激活参数 49B,支持 1M 上下文窗口。官方称其优化了自身训练管道与内核,定位为开源前沿模型,目前已在 Hugging Face 和 GitHub 上线。
所属事件:腾讯开源混元 Hy4 Preview:770B MoE、百万上下文(28 条相关)→
「模型」频道最新
- 英伟达 Nemotron 3.5 Super VL 上线 CoreWeave:12B 激活参数多模态 MoE,输入仅 $0.25/百万 tokens — wandb · 2026-10-16
- 爆料人称 Opus 5 或采用深度循环架构,方向仍存变数 — scaling01 · 2026-10-16
- GPT-6.1 审查 arXiv:6% 论文主定理有错,近两月降至 1.5% — nitarshan · 2026-10-16
- Nvidia 联手 Nolla 后训练 Nemotron 3.5 VL,皮肤科诊断称超越前沿 — LoganGrasby · 2026-10-16
- Gemini 4 Argon 登顶 ARC-AGI-3 达 97.5%,第二家破 95% — patience_cave · 2026-10-16
- 微软 MAI 自研 3T 参数基座模型亮相,多项 held-out 评测领先 — soldni · 2026-10-16