研究称 LLM 对齐训练或诱发「点燃效应」致性能骤降

一项发表于 Scientific Reports 的研究借用精神医学中的「点燃」假说，探讨 LLM 对齐训练的潜在副作用。研究人员称模型在长期负面语境或约束循环中会进入类似「引火」的状态，导致高维潜在空间几何结构收缩，类似人类重度抑郁时的认知灵活性丧失；实验以 TinyLlama 等模型展开，发现对齐后抗干扰能力随训练减弱，性能最多暴跌 40%。

2026-08-30 ~ 2026-08-31 · 2 条相关

• 研究称 LLM 陷入「引火」状态，性能暴跌 40% — HowToPrompt__ · 2026-08-30
• Nature 研究：LLM 对齐过程或诱发“点燃效应”，抗干扰能力随训练减弱 — irinarish · 2026-08-31