Anthropic 宪法被批:对齐价值观与可纠正性是穿不过的针眼
voooooogel · x · 2026-09-13
- FioraStarlight 批评 Anthropic 官网上的宪法(constitution):它用一种过度精巧的论证解释为何价值对齐的 agent 仍会接受可纠正性(corrigibility)约束——理由是对自身评估价值观的能力缺乏信任。
- 作者认为这是在尝试穿一根穿不过的针眼,即对齐价值观与接受外部纠正之间在逻辑上难以调和,该方案无法自洽。
「漫话AGI」频道最新
- 「AI 泡沫正在破灭」：三大 LLM 厂商 CEO 放缓信号引发崩盘担忧 — SumitGup · 2026-09-13
- Reddit 热议：哪些专业领域你仍不敢交给 Claude/ChatGPT？ — sartomiki · 2026-09-13
- 电路问题被称为完美对抗对象,AI 有望破数学僵局 — _onionesque · 2026-09-13
- OpenAI 研究员警告:军事全面 AI 化将令权力向前沿实验室集中 — jachiam0 · 2026-09-13
- 「要给前沿降速」？SaaS CEO 们的双标瞬间 — parker_lyman · 2026-09-13
- tszzl:希望开源生态百花齐放,结局取决于造成多少混乱 — tszzl · 2026-09-13