Oxmiq 发布腾讯 Hy4 的 NVFP4 量化开源版,RTX 6000 Pro 可跑
RajaXg · x · 2026-09-30
- Oxmiq 团队在 Hugging Face 发布了 Hy4-preview 的 NVFP4（W4A16）量化开源版本。
- 该模型面向腾讯场景定制，量化版本适合部署在配备 RTX 6000 Pro 服务器的环境，官方称运行效果良好。
- 发布者（RajaXg）表示团队受益于开源社区，未来会加大回馈开源的投入，此次量化模型是回馈的第一步。
- 模型采用自定义特殊 token 与 chat template，支持 high/nothink 两档推理模式与工具调用。
「Infra」频道最新
- PyTorchCon 全程聚焦 vLLM:KV cache、分离式推理与专家并行 — PyTorch · 2026-09-30
- 零 GPU 入门推理工程:工程师博客详解 CPU 起步与开源贡献路径 — abhijithneil · 2026-09-30
- Anthropic 被曝 2520 亿美元不可撤销算力承诺,另有 1612 亿 TPU 租约 — ns123abc · 2026-09-30
- 数据中心反对声浪升温：30 天内相关视频数量暴增 4.8 倍 — zealcaiden · 2026-09-30
- 黑石联合 KKR、Apollo 豪掷 53 亿美元投数据中心燃气电站 — pstAsiatech · 2026-09-30
- 想凭空拉起 150 块 GPU?业内:别指望 neocloud — charles_irl · 2026-09-30