改 0.13% 权重零训练修复 OCR 模型空白页幻觉,榜单从 14 升到 8

vanstriendaniel · x · 2026-11-04

开发者 vanstriendaniel 继续实验无训练权重编辑:针对 LightOnOCR-2-1B 对空白页输出「图中无内容可转 Markdown」长篇幻觉的问题,仅编辑 0.13% 的权重、不做任何训练,就让它安静地返回空输出,在 BHL OCR 榜单上可从第 14 名升到第 8 名,而正常文本页表现不变。

一个有趣的附带发现:该幻觉只在 vLLM 推理时出现——同样的空白页,vLLM 下 40/40 触发,transformers 下仅 1/40,提示推理栈本身可能影响模型行为。作者提醒不要将此编辑用于真实生产。