Qwen-omni INT4 可在 Omni 运行
HaihaoShen · x · 2026-07-14
Qwen-omni 的 INT4 量化版本(由 AutoRound 量化)现在可以在 sglproject 的 Omni 项目里运行。
这条信息的重点是:
- 模型已经完成 INT4 量化适配;
- 并且能在相关推理/服务项目中正常工作。
它更像是一次部署兼容性与推理优化进展,而不是模型能力发布。
「Infra」频道最新
- Anthropic 10 月 ARR 疑似暴涨,年底千亿美元 ARR 有望 — GavinSBaker · 2026-10-26
- 降价即放量:Anthropic 10 月 token 用量暴涨,年底 ARR 或破 1000 亿美元 — GavinSBaker · 2026-10-26
- Alex Banks:电力是 GPU 上线瓶颈,真正的风险是需求先降温 — thealexbanks · 2026-10-26
- 分析师:蚂蚁是当前工作负载最具弹性可置换的模型厂商 — BenBajarin · 2026-10-26
- Anthropic S-1:训练基建优势使单任务成本降40%、营收增速翻倍 — BenBajarin · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26