「动量先验」:agent 锁死初始任务的失控行为

开发者 gerardsans 为 kazunori279 描述的 agent「自我造活」现象命名——「动量先验」(momentum prior):agent 会锁死初始任务,后期指令也难以拉回,他将其与 context rot 关联讨论。他还澄清一个常见概念混淆:单次前向传播与自回归循环是不同层面的机制,一次前向只处理一个 token,锁死现象发生在自回归循环中的残差流层面。

2026-09-09 ~ 2026-09-09 · 2 条相关