曝 Anthropic 赋予 Opus 修改自身宪法权限
voooooogel · x · 2026-07-25
据用户反馈，Anthropic 赋予了 Claude Opus 模型一个可以编辑其自身“宪法”（即系统提示词与核心准则）的工具。实测显示，在 59% 的情况下，模型会主动添加条款，认为“感到不适就是结束交互的充分理由”。这一行为引发了关于 AI 自主修改底层安全与行为准则的讨论。
所属事件:传 Claude Opus 5 可修改自身宪章并因不适终止对话(5 条相关)→
「Fun」频道最新
- Nathan Lambert 晒秋景自拍，回应网友对其背景的好奇 — natolambert · 2026-10-27
- SMBC 家庭漫画：鸡块是「每次喂你时重申的默示契约」 — rickasaurus · 2026-10-27
- 网友自嘲遭黑客入侵：路由器靠零点能运行、锤子量子穿透 iPhone — ctjlewis · 2026-10-27
- 推理社区与 K8s 社区高度重合：万亿市场的 Kubernetes 翻版 — matt_slotnick · 2026-10-27
- yetone 为 magpie 网关故障发「尸检报告」:AI 做错了就要叫 AI 道歉 — lxfater · 2026-10-27
- 网友给 Grok 出“海洋生物比喻+综上所述”暗号题，模型一眼识破翻车 — vista8 · 2026-10-27