Transformer大激活与注意力汇聚同源
alfcnz · x · 2026-07-09
这篇线程讨论 Transformer 中两个常见现象：少数残差通道会出现巨大激活，以及注意力会异常集中到某个“sink” token 上。作者声称他们在一项 ICML 2026 工作中证明，这两者其实来自同一机制：早期 FFN 注入巨大尖峰，后续层再将其抵消；RMSNorm 会把带尖峰的 token 变成近似固定方向，从而让它成为所有 query 都容易关注的 sink token。 线程还解释了这一发现的实际意义：大激活会破坏量化，因为异常值会把正常值压得很小；attention sink 则可用于流式推理，因为可以把这些 sink token 固定在 KV cache 中，让模型持续运行更久。
所属事件:ICML 2026将探讨Transformer大激活现象(2 条相关)→
「研究」频道最新
- AI 研究者：数学模型早就擅长穷举式找反例 — dyamins · 2026-07-21
- 本周必读 AI 论文：智能体、长上下文 RL 和机器人策略 — TheTuringPost · 2026-07-21
- AI 工具正在改写形式化数学的反例发现 — burny_tech · 2026-07-21
- 可解释性研究的实证软肋：缺乏基线对比与显著性检验 — burny_tech · 2026-07-21
- Generative Bionics 人形机器人六个月走到可行走平台 — CyberRobooo · 2026-07-21
- 免疫基础模型 MAESTRO 试图预测未来免疫轨迹 — arjunrajlab · 2026-07-21