MIT 联合 NVIDIA 推出 QDA,智能体自动设计量化方案

MIT 韩松实验室与 NVIDIA 联合发布论文《QDA: Closed-Loop LLM Quantization Design with Agents》,让 LLM 智能体以闭环方式自动设计大模型后训练量化(PTQ)方案。据报道,该方法仅用 64 GPU 小时就超越了最强的公开人工配方,有望降低量化方案设计的门槛与成本。

2026-11-19 ~ 2026-11-20 · 2 条相关