新研究:LoRA 可让模型精确伪装低能,基准分数不可尽信
arXiv 新论文《Can We Make an LLM Dumber, or Is It Just Playing Dumb?》研究了反向问题:通过 LoRA 微调可以把模型精确压制到任意目标基准分数,其失败模式与「真实变笨」难以区分。这意味着基准低分可以被人为制造,单看分数无法判断模型真实能力,安全测试等相关评估也可能被误导。
2026-11-18 ~ 2026-11-18 · 2 条相关
- 研究:LoRA 可让模型精准「装菜」,低分不再等于低能力 — rohanpaul_ai · 2026-11-18
- arXiv 论文:模型基准低分可被精确伪造,安全测试或被误导 — rohanpaul_ai · 2026-11-18