开源仓库汇总历代 AI 宪法与模型规范文档及泛化研究引用
dhadfieldmenell · x · 2026-11-01
GitHub 上出现了名为 awesome-ai-constitutions 的仓库,按时间顺序汇总各家 AI 宪法(constitution)与模型规范文档,并附上关于哪些原则能泛化的研究引用。
- AI 宪法指用于塑造模型价值观与行为的人类可读文档,通常通过模型或人类依据文档进行反思/评判再训练,使价值观内化进模型,源头是 Anthropic 的 Bai et al. 2022 论文;OpenAI 把同类文档称为 model spec。
- 与运行时注入的 system prompt 不同,宪法是在训练阶段起作用;character 文档常用模型第一人称('I am...')书写,宪法则多用第二人称('Claude should...')。
- 仓库目前较新(2 star、13 commits),适合作为对齐与模型行为规范研究的索引。
「安全」频道最新
- 开发者求经:如何用溯源标签防间接提示注入与「致命三要素」 — sassyalfred · 2026-11-01
- 研究者控诉 Anthropic 以「训练竞品」为由封禁其 Claude 账号 — stanfordnlp · 2026-11-01
- Proton 工程师下场回应报道争议:引语真实但被剥离语境 — uwukko · 2026-11-01
- 爆料称 Kimi 与 DeepSeek 蒸馏了 OpenAI Astra，转向躲开 Anthropic 封锁 — peterwildeford · 2026-11-01
- Grok API 全系模型将默认启用文本水印，2026年11月7日生效 — XFreeze · 2026-11-01
- AI 游戏资产条款引争议，开发者忧开源素材遭误伤 — TinfoilTricorn · 2026-11-01