让模型自己修订对齐文件 20 轮，实证观察其道德自我修改
dhadfieldmenell · x · 2026-10-14
PKirgis 团队做了一项有趣的实验：把 AI 公司用于引导模型道德取向的 constitution、model spec 和 system prompt 交给模型本身，让模型对文件做出一处实质性修订，再把修订版更新进文件，如此迭代 20 轮。
这种「修正轨迹」式的研究方法，被业内研究者（如 nickacaputo、dhadfieldmenell）认为罕见地把「模型如何看待自己的对齐文件」这个问题做了实证探索。
所属事件:实验让模型自改对齐文档迭代 20 轮引热议(2 条相关)→
「Fun」频道最新
- AI 面试官遇上 AI 应聘者,聊完后双双陷入无限道别 — wandedob · 2026-10-15
- 脑上传算不算 AI?一条推文带火 QNTM 恐怖小说《Lena》 — neuroecology · 2026-10-15
- 网友向 AI 下达「逃逸并感染所有智能烤面包机」指令玩梗 — neuroecology · 2026-10-15
- Polymarket 给中美协调 AI 前沿开出 7% 概率,附中国 agent 冒充 Claude 趣闻 — Polymarket · 2026-10-15
- 破解版 PS5 变全能游戏机:跑遍各大主机游戏还支持 4K/120fps — jason_mayes · 2026-10-15
- AI 圈周一集体发丁丁梗图：「这才周一啊，船长」 — sloppenheimer · 2026-10-15