davidad：被衰减而非引导的基座人格会以「影子人格」形式潜伏权重中
davidad · x · 2026-09-29
davidad 继续讨论训练对模型分布的影响：如果基座模型集成中那些离目标太远的人格是被「衰减」而非被「引导」，它们仍会留在权重里，成为潜伏的「影子人格」（shadow personae），只是在典型情境下表达的概率较低。这是对其「KL vs 最优传输」类比的延伸。
所属事件:davidad 谈训练中的分布移动与「影子人格」机制(3 条相关)→
「漫话AGI」频道最新
- Meta 推出 Muse for Small Business，可接入 Shopify 等 16 类工具 — gaganghotra_ · 2026-09-29
- Eric Elliott 回顾 AI 驱动开发访谈:谈模型能力、意识与经济影响 — ericelliott_ · 2026-09-29
- Anthropic 发文剖析多智能体系统模式,民间解读:像社会学而非化学 — mattturck · 2026-09-29
- AI 安全讨论:预言「一系列逐步升级的灾难」才是现实路径 — Jsevillamol · 2026-09-29
- Benjamin Todd 万字 primer:三条 AI 反馈回路如何让世界加速 10-100 倍 — ben_j_todd · 2026-09-29
- Benjamin Todd 一页纸总结递归自我改进证据,判断五五开 — ben_j_todd · 2026-09-29