腾讯 Hy4 预览版:1.25bit 量化将体积缩减 7 倍
ccerrato147 · x · 2026-09-01
腾讯发布的 Hy4 模型预览版采用了名为 Sherry 的量化方法,将模型权重压缩至 1.25 bits,使得体积从 1.5TB 锐减至 214GB,且质量无明显损失。该技术还支持跨机器拼接 GPU,让多台设备的算力协同工作。目前 GGUF 量化版和原版模型均已提供下载。
所属事件:腾讯混元 AngelSlim 量化将 Hy4-preview 压缩至 214GB(5 条相关)→
「Infra」频道最新
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18
- DFB 激光器耦合薄膜铌酸锂芯片:最高 170mW、阈值仅 40-45mA — jwt0625 · 2026-10-18
- 5070 Ti 外挂 3070 混搭跑 Qwen 35B 达 82 tok/s — hereforcheesee · 2026-10-18
- 中国在建/规划功率半导体晶圆厂达 69 座,遍布 58 家厂商 — zephyr_z9 · 2026-10-18
- 研究测算:AI 数据中心每年需 3.5 万亿美元收入才能撑住 — TheseFact · 2026-10-18