实验让模型自改对齐文档迭代 20 轮引热议

PKirgis 团队开展一项实验：将前沿 AI 公司用于引导模型道德取向的 constitution、model spec 和系统提示词等对齐文档交给模型本身，让模型每轮提出一处实质性修订并合并进文档，如此迭代 20 轮，实证观察模型道德自我修改的演变过程。独特的实验设计引发社区赞叹与广泛讨论。

2026-10-14 ~ 2026-10-14 · 2 条相关

• 研究者让模型自改对齐文档迭代20轮,实验设计引赞叹 — sethlazar · 2026-10-14
• 让模型自己修订对齐文件 20 轮，实证观察其道德自我修改 — dhadfieldmenell · 2026-10-14