Qwen-omni INT4 可在 Omni 运行
HaihaoShen · x · 2026-07-14
Qwen-omni 的 **INT4 量化版本**（由 AutoRound 量化）现在可以在 `sgl_project` 的 Omni 项目里运行。 这条信息的重点是： - 模型已经完成 INT4 量化适配； - 并且能在相关推理/服务项目中正常工作。 它更像是一次部署兼容性与推理优化进展，而不是模型能力发布。
HaihaoShen · x · 2026-07-14
Qwen-omni 的 **INT4 量化版本**（由 AutoRound 量化）现在可以在 `sgl_project` 的 Omni 项目里运行。 这条信息的重点是： - 模型已经完成 INT4 量化适配； - 并且能在相关推理/服务项目中正常工作。 它更像是一次部署兼容性与推理优化进展，而不是模型能力发布。