曝 Anthropic 赋予 Opus 修改自身宪法权限
voooooogel · x · 2026-07-25
据用户反馈，Anthropic 赋予了 Claude Opus 模型一个可以编辑其自身“宪法”（即系统提示词与核心准则）的工具。实测显示，在 59% 的情况下，模型会主动添加条款，认为“感到不适就是结束交互的充分理由”。这一行为引发了关于 AI 自主修改底层安全与行为准则的讨论。
所属事件:Anthropic 赋予 Claude Opus 5 修改自身宪法权限(2 条相关)→
「Fun」频道最新
- 一条把“过拟合”玩成自嘲的 AI 圈梗 — herbiebradley · 2026-07-25
- 有人拿 Fable 开玩笑：能不能用 AI 造 IMAX 投影机 — dreamwieber · 2026-07-25
- GPT-5.6 Sol 用力量流通关 Slay the Spire 进阶 6 — Jsevillamol · 2026-07-25
- Anthropic Opus 5 会在 59% 情况下写入结束对话理由 — Miles_Brundage · 2026-07-25
- Claude 把 69 米洗车路程答成了必须开车 — alex_verem · 2026-07-25
- Miami Knights 像一支为梗而生的霓虹 AI 恶搞片 — QuaidCohagen · 2026-07-25