新研究:LoRA 可让模型精确伪装低能,基准分数不可尽信

arXiv 新论文《Can We Make an LLM Dumber, or Is It Just Playing Dumb?》研究了反向问题:通过 LoRA 微调可以把模型精确压制到任意目标基准分数,其失败模式与「真实变笨」难以区分。这意味着基准低分可以被人为制造,单看分数无法判断模型真实能力,安全测试等相关评估也可能被误导。

2026-11-18 ~ 2026-11-18 · 2 条相关