SDNQ 量化引擎并入 Diffusers,支持多平台与 176 种量化类型
RisingSayak · x · 2026-08-01
SDNQ(SD.Next Quantization Engine)已正式集成至 Hugging Face Diffusers 库。该引擎支持 SVD、Hadamard rotation 等多种校正技术以提升生成质量,并全面兼容 CUDA、ROCm、XPU、MPS 及 CPU。
此外,它还支持 Int8/FP8 量化的矩阵乘法,能在大幅降低显存占用的同时保持良好的推理性能,提供出色的内存与性能平衡。
「Infra」频道最新
- 128GB Mac 硬塞 1.6TB 权重,Kimi K3 极限本地部署实测 — 机器之心 · 2026-08-01
- 传欧洲芯片巨头 NXP 拟收购自动驾驶 AI 芯片厂商 Ambarella — pstAsiatech · 2026-08-01
- 消费级笔记本跑通2.78万亿参数Kimi K3全量模型 — rickasaurus · 2026-08-01
- CXMT LPDDR6 内存接近量产,速率达 12800Mbps — bookwormengr · 2026-08-01
- OpenAI 巨型单体仓库遇性能瓶颈,团队向 Git 上游提交优化补丁 — charliermarsh · 2026-08-01
- 算力账单揭秘:国产大模型在AI编程场景为何“叫好不叫座” — 创业邦 · 2026-08-01