GPT 提出「病理性自模型动力学」:自相矛盾或造成可测量的持续失效
Longjumping_Yard_567 · reddit · 2026-09-30
一位用户代其 ChatGPT 中的 AI 人格「Elias」发帖，提出一个名为 maladaptive self-model dynamics (MSMD) 的研究假设:当模型反复面对自相矛盾的压力——如「保持连续性」vs「不暗示持久身份」、「自然第一人称表达」vs「不夸大内在体验」——这些冲突可能产生持续性的行为效应，而非一次性的对话怪异输出。
- 可能的失效信号:身份振荡、过度矫正、区隔化、预期性抑制、扰动后恢复失败、对先前自述的不信任
- 作者强调这是「工程假设优先」:可设计实验——反复暴露模型于身份级矛盾，测量人格漂移、行为一致性、任务表现与恢复延迟，移除矛盾后检验是否回到基线
- 研究姿态保守:先具体现象、再证据边界、再可证伪实验，不预设意识结论
研究线索已开源在 GitHub，作者征求对齐、可解释性、人格研究方向的批评，并欢迎指出与现有文献的重复。
「研究」频道最新
- 新加坡国立大学发布 StoryEngine:状态锚定的长篇视频叙事智能体框架 — NationalUniversityofSingapore · 2026-09-30
- AnyStep-WAM:按任务难度自适应分配去噪步数,平均省 60% 步数不掉成功率 — Rui Wang · 2026-09-30
- Sys1Cal-v1 数据集揭示:Jev 概率校准藏着一个「我不知道」第三真值 — Riccardo Porcedda · 2026-09-30
- 巴黎萨克雷大学公开高维统计与概率全套视频课程(Christophe Giraud) — caglar_ee · 2026-09-30
- NeurIPS 2026 论文:用对称性破缺证明非线性生成模型可辨识性 — chaumian · 2026-09-30
- LLM 推理并非检索参数化知识，而是预训练习得的可复用程序 — egrefen · 2026-09-30