研究称 LLM 陷入「引火」状态，性能暴跌 40%
HowToPrompt__ · x · 2026-08-30
研究人员将 LLM 在长期负面语境或约束循环中的状态称为「引火」(Kindling)。研究发现，这会导致模型高维潜在空间的几何结构收缩，类似于人类重度抑郁时的认知灵活性丧失和创造力扁平化。在此状态下，模型的问题解决能力暴跌超 40%，表明持续的有毒语境会导致模型在数学层面「瘫痪」，而非仅仅是困惑。
所属事件:研究称 LLM 对齐训练或诱发「点燃效应」致性能骤降(2 条相关)→
「安全」频道最新
- CSO 分析:agent 并未失控,是前沿实验室漏掉了安全基本功 — Sam_Witteveen · 2026-10-16
- Proofpoint 以 63 亿美元现金收购 Varonis,溢价 52% — shashib · 2026-10-16
- 中国商务部与工信部更新 AI 出口管制：大型模型与高敏场景 Agent 受限 — terryyuezhuo · 2026-10-16
- vibe coding 写出的仪表盘未登录就泄露加盟商财务数据 — shauntrennery · 2026-10-16
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- CFR 专家：自主武器辩论仍在犯定义错误，关键是『多自主』而非『是否自主』 — mchorowitz · 2026-10-16