Unsloth 量化模型长任务实测：1-bit GGUF 在 DeepSWE 领先其他量化 10%+

danielhanchen · x · 2026-11-03

Unsloth 发布 DeepSeek-V4.1-Flash-1017 各档 GGUF 量化在 512K 上下文下的实测：在 Terminal Bench、DeepSWE、AutomationBench 等 agent 基准上整体排名最高，1-bit Unsloth GGUF 取得 DeepSWE 68.1、Terminal-Bench 72.2、AutomationBench 52.7，比其他量化方案领先 10% 以上，即使压到 IQ1M 也接近原始模型。

被引用的 Benjamin Marie 补充了方法论观点：难以长程 agentic 任务才是评估大模型量化的最佳方式——多轮长序列会让量化误差累积显现，而简单饱和基准看不出精度下降。这类评测很少见是因为成本极高，且每个基准需多次运行。