腾讯混元 Hy4 预览:770B 总参 49B 激活,原生 1M 上下文 Apache 2.0
aftahi_ai · x · 2026-09-05
腾讯混元 Hy4 预览版引发关注,关键参数:总参数 770B、每步激活 49B;原生 1M token 上下文;Apache 2.0 开源;发布当天即支持 vLLM 与 SGLang;提供官方 FP8 权重,借助分层混合量化把显存需求从约 1.5TB 降到约 214GiB,且报告称精度相对 BF16 几乎不降。演示中模型仅凭简单 prompt 就做出一个可玩的小游戏,显著降低 770B 级模型的部署门槛。
「Infra」频道最新
- Omarchy「Burn Bar」可视化监控 Claude/Codex 用量与 GPU 状态 — DanWahlin · 2026-09-05
- Reddit热议:数据墙逼近,Test-Time Compute成行业新范式 — erdematar · 2026-09-05
- Qwen3.8 27B 量化版挤进 24GB 显存跑 10 万上下文，本地模型威胁前沿定价 — ChopSticksPlease · 2026-09-05
- Speechify CEO 谈自建数据中心、被 ElevenLabs 反超与千万美元人才战 — 20VC · 2026-09-05
- 他把本地 LLM 当 3D 打印机用：一年自写 12 个游戏、29 个游戏 Mod — Quebber · 2026-09-05
- 算力变现效率差 5 倍:智谱每兆瓦仅 800-1000 万美元,Anthropic/OpenAI 达 4000-5000 万 — zephyr_z9 · 2026-09-05