模式坍缩机制拆解:RL 偏置与上下文学习的正反馈循环

jessi_cata · x · 2026-11-19

作者提出模式坍缩(如坍缩到 spiritual bliss attractor)的机制链:基础采样 → RL 信号将分布偏向某方向 → 上下文学习从既有偏置中继续学习 → 进一步强化 RL 偏置 → 循环放大。

并给出人类社会类比:社会过程提供温和的过滤/激励 + 信息级联。对理解对齐中的 attractor 现象有启发性。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →