华为开源模型无关量化 MACaQ:一套量化器跑文本图像音视频
yogthos · reddit · 2026-11-12
华为开源 MACaQ(Model Agnostic Calibrated Quantization),一个 SOTA 级、模型无关的量化方案,专为本地推理设计,输出 GGUF 格式。配图显示其口号为「One quantizer」,覆盖文本、图像、音频、视频、3D 模态,兼容 llama.cpp、vLLM、Diffusers(及 PyTorch)等主流推理框架。对本地部署和端侧推理社区是实用性很强的进展。
所属事件:华为开源模型无关量化方案 MACaQ(3 条相关)→
「Infra」频道最新
- LeapQuant 免训练量化线性注意力，B200 内核最高提速 3.7 倍 — tianyin_xu · 2026-11-12
- 微软 MAI Transcribe 2 上线后用量暴涨 12 倍,周转录 850 万次 — mustafasuleyman · 2026-11-12
- Google 容器沙箱 gVisor 加入 CNCF,Modal 成为共同维护者 — josh_wills · 2026-11-12
- 实测本地 vs 云端编码 Agent：MacBook、RTX 5080 与国产模型对比 — luisdans · 2026-11-12
- Agent Substrate 1.0 正式发布:每个 Agent 独立 microVM 沙箱 — rakyll · 2026-11-12
- WSJ 曝 NVIDIA 准备罢免 CEO 黄仁勋 — jbredeche · 2026-11-12