腾讯混元 770B 模型量化后从 1.5TB 压到 214GiB
Aiden_Tech_Ai · x · 2026-09-03
爆料称腾讯 Hunyuan 新模型（Hy4 preview）经混合 GGUF 量化后体积从约 1.5TB 降至约 214GiB，官方评测成绩接近 BF16 水平。但需注意细节：采用逐层混合量化，并非整个模型 "1-bit"，也不是所有笔记本都能原生运行。模型亮点包括每 token 激活 49B 参数、原生 1M 上下文、Apache 2.0 许可，并支持 vLLM 与 SGLang。作者认为如此大的宣传口径需要独立第三方测试验证。
「Infra」频道最新
- 英伟达拟 129.3 亿美元收购 Hugging Face，押注开源模型 — nordicinst · 2026-09-03
- OAuth 2.1 授权框架草案更新，将取代 RFC 6749 的 OAuth 2.0 — jedisct1 · 2026-09-03
- Figure 豪掷 35 亿美元部署 10 万块 NVIDIA Vera Rubin GPU — adcock_brett · 2026-09-03
- Nvidia 纵向整合信号显现，或将自建应用层对抗 OpenAI — RachelVT42 · 2026-09-03
- ARK 中期复盘:AI 算力与基建扩张持续超预期 — downingARK · 2026-09-03
- 自购二手 8xA100 服务器托管?Reddit 用户算账个人算力生意 — Alarming-Ad8154 · 2026-09-03