Qwen 底模 93% 答案跑死循环，某「6 倍提升」疑破基线虚高

paul_cal · x · 2026-11-03

paulcal 转发并补充对某项宣称 6 倍提升的模型改进（由 Astra 完成）的质疑，marcospereeira 称 Claude 帮其找到了问题所在：该 Qwen 底模本身陷入死循环，MATH-500 上 93% 的答案都跑满 32k token 上限，Qwen 模型卡也对此有警告。删除引发某个行为的单一方向是已知技巧（曾被用于剥离开源模型的拒答），而 Astra 用了 50 轮模型运行来定位。在不死循环的 Gemma 270M 上该改动没有带来任何收益——说明 6 倍提升是相对一个坏掉的基线，并非真实能力增强。