腾讯混元开源Hy4-preview:770B参数、1M上下文,开源榜约第3
机器之心 · wechat · 2026-08-28
腾讯混元发布并开源新一代大模型Hy4-preview:总参数770B(MoE架构,激活49B),支持1M上下文,Apache 2.0许可开放权重及FP8版本。相比上代Hy3-preview(295B总参/21B激活/256K上下文)容量与上下文均大幅提升。API定价为输入6元/百万tokens、输出18元/百万tokens,缓存命中输入0.3元。
评测方面,Terminal-Bench 2.1从70.8升至85.4,DeepSWE从28.0升至64.3,GPQA Diamond达92.3;在CodeArena:WebDev榜以1633分暂列约第5(AutoEval),开源模型中约排第3。模型定位「为生产力而生」,覆盖软件工程长程任务、多文件办公分析、从一句话生成Unity/Unreal可玩原型、科研等场景;163名内部专家对203个工程任务盲测,平均2.99分(满分4),略高于GLM5.3的2.92与Kimi K3的2.94。
一个亮点是模型首次参与混元自身的训练方法、数据策略、评估与算子优化,在一轮推理基础设施优化中将端到端吞吐较基线提升31.8%。
所属事件:腾讯开源混元 Hy4 Preview:770B MoE、百万上下文(28 条相关)→
「Infra」频道最新
- SGLang Day-0 支持 FLUX 3 Image Klein:单图 10 参考图,BF16/FP8/NVFP4 多精度 — ying11231 · 2026-10-16
- 英伟达 Nemotron 3.5 Super VL 上线 CoreWeave:12B 激活参数多模态 MoE,输入仅 $0.25/百万 tokens — wandb · 2026-10-16
- 2026 晶圆厂设备支出上调至 1530 亿美元,设备周期被拉长 — BenBajarin · 2026-10-16
- Steam 更新实测 5.23 秒启动反超 Epic,网友调侃 vLLM 该加入「启动时间大战」 — AlpinDale · 2026-10-16
- Shadeform 预告下周一发布六项新功能:降 GPU 成本、扩算力来源 — _jaydeepkarale · 2026-10-16
- Fastino 推出后训练 API:兼容 Tinker SDK,成本降 25%-85% — kalyan_kpl · 2026-10-16