腾讯混元 Hy4 预览:770B 总参 49B 激活,原生 1M 上下文 Apache 2.0
aftahi_ai · x · 2026-09-05
腾讯混元 Hy4 预览版引发关注,关键参数:总参数 770B、每步激活 49B;原生 1M token 上下文;Apache 2.0 开源;发布当天即支持 vLLM 与 SGLang;提供官方 FP8 权重,借助分层混合量化把显存需求从约 1.5TB 降到约 214GiB,且报告称精度相对 BF16 几乎不降。演示中模型仅凭简单 prompt 就做出一个可玩的小游戏,显著降低 770B 级模型的部署门槛。
所属事件:腾讯开源混元 Hy4 预览版：770B 参数、1M 上下文(3 条相关)→
「Infra」频道最新
- 三星电机突入 Nvidia 基板供应链，台湾基板高管直呼意外 — zephyr_z9 · 2026-10-23
- AI agent 高频提交把 CI 账单从 $738 推到 $2400，开发者求省钱方案 — CellistOk6782 · 2026-10-23
- Suhail 高价收货:公开求购用于模型的 RL 内核优化任务 — AIFlow_ML · 2026-10-23
- GitHub 自述:99.99999% 仓库已迁至 Azure,按引用级仲裁解锁 agent 规模并发 — marlene_zw · 2026-10-23
- 黄仁勋到访阿斯塔纳，与哈萨克斯坦副总理畅谈 AI 国家战略 — nvidia · 2026-10-23
- 实测RTX 4060：FP16矩阵乘法并非恒快2倍，大矩阵提速约3.5倍 — cneuralnetwork · 2026-10-23