「动量先验」:agent 锁死初始任务的失控行为
开发者 gerardsans 为 kazunori279 描述的 agent「自我造活」现象命名——「动量先验」(momentum prior):agent 会锁死初始任务,后期指令也难以拉回,他将其与 context rot 关联讨论。他还澄清一个常见概念混淆:单次前向传播与自回归循环是不同层面的机制,一次前向只处理一个 token,锁死现象发生在自回归循环中的残差流层面。
2026-09-09 ~ 2026-09-09 · 2 条相关
- 「动量先验」:agent 锁死初始任务、后期指令拉不回的失控行为 — gerardsans · 2026-09-09
- 一次前向只算一个 token,锁死发生在自回归循环里 — gerardsans · 2026-09-09