腾讯混元 Hy4-Flash 引擎 PR 曝光:张量并行+MTP 草稿+CPU 专家通道
TencentHunyuan · x · 2026-11-19
腾讯混元官方转发了一条 GitHub PR:Hy4-Flash 模型即将合入开源推理项目 Project Maya 的 main 分支,配套专用引擎 maya-hy4(NVIDIA、Linux)。
PR 细节显示:模型含 42 层加一个 MTP 块,采用 MLA 注意力(512 token 滑动窗口、12 层带 indexer)、512 个路由专家取 top-16、4 路 hyper-connection,并在 4 层上做 Engram n-gram 查表;引擎支持张量并行(--tp auto|N|0)、MTP 草稿推理和 CPU expert lane,从 AngelSlim 的 GGUF 打包出发只写几何/索引/tokenizer 而不拷贝权重,服务端支持 chat、带 effort 级别的 thinking 与工具调用。
「Infra」频道最新
- Linux Mint 官网全线下线,疑似托管商 DNS 故障而非域名丢失 — kingslyj · 2026-11-19
- 网友质疑黄仁勋「2027 中国算力超全球」言论:言过其实 — teortaxesTex · 2026-11-19
- TRELLIS.2 CUDA 内核上线 HF kernels:BVH 构建 7.1 秒降至 5 毫秒 — ariG23498 · 2026-11-19
- opencode 修复 GPT-6.2 缓存 bug,每步未缓存输入从 1.4 万 token 降至 3 — victor_explore · 2026-11-19
- 美国中期选举 41 项数据中心公投 40 项被否,Alphabet 以就业承诺回应 — rohanpaul_ai · 2026-11-19
- 8GB RTX 4060 跑 Qwen3.8-27B:AIME 29/30,三个免微调循环降错误 — Ai_Glitch_3301 · 2026-11-19