模式坍缩机制拆解:RL 偏置与上下文学习的正反馈循环
jessi_cata · x · 2026-11-19
作者提出模式坍缩(如坍缩到 spiritual bliss attractor)的机制链:基础采样 → RL 信号将分布偏向某方向 → 上下文学习从既有偏置中继续学习 → 进一步强化 RL 偏置 → 循环放大。
并给出人类社会类比:社会过程提供温和的过滤/激励 + 信息级联。对理解对齐中的 attractor 现象有启发性。
「漫话AGI」频道最新
- AI 圈争论:能改写物理学的模型为何没有接管世界 — repligate · 2026-11-19
- AI 让内容无限供给后,创作者靠什么保值:体验、人格与信任 — kylegawley · 2026-11-19
- tszzl:能改写数学物理的模型,却常在常识任务上翻车 — tszzl · 2026-11-19
- NYT:Anthropic IPO 资金将优先购算力,冲刺递归自我改进 — Polymarket · 2026-11-19
- Gary Marcus 转批 Anthropic「赢家通吃」论是最危险的 AI 观点 — GaryMarcus · 2026-11-19
- OpenAI 加速报告藏隐忧:短任务成功率几乎未涨,ASI 临近存疑 — joshua_saxe · 2026-11-19