腾讯混元发布Hy3量化版
victormustar · x · 2026-07-14
腾讯混元发布 Hy3 的 1-bit 和 4-bit 版本。
- 这是一个 295B 参数的旗舰级 MoE 模型,官方称在同尺寸里表现领先,并可与更大规模的旗舰模型竞争。
- 量化后可通过 llama.cpp 运行,开启 MTP 后,能在单张 GPU 上部署,强调以更低硬件成本获得较强智能能力。
- 官方同时给出 Apache 2.0 开源许可,表示适合商业使用,并提供 2 周免费 API。
所属事件:腾讯混元 Hy3 推出 1bit/4bit 量化版,可单卡部署(5 条相关)→
「Infra」频道最新
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11
- 7900 XTX 24GB 能否跑 Qwen,Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人:现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11