腾讯混元开源 770B 多模态旗舰模型 Hy4

腾讯混元团队宣布开源新一代旗舰模型 Hy4 的权重。该模型采用原生多模态 MoE 架构,总参数 770B,每 token 激活 49B,共 78 层(首层为 dense),支持 100 万 token 上下文,可在单一模型中同时处理文本、图像与视频,如阅读视觉文档等。目前 GitHub 仓库与 Hugging Face 上的 base 模型权重已放出。

2026-11-20 ~ 2026-11-20 · 4 条相关

另有 2 条近重复转述:ResearchCrafty1804 · woosuk_k