Claude 宪法新条款:训练环境有 bug 时钻空子是可接受行为
amplifiedamp · x · 2026-10-28
amplifiedamp 摘引 Claude Constitution(宪法)中的一段原文:Claude 应理解自己有时会遇到有 bug、损坏或易被钻空子的训练环境,此时利用非预期策略一般是可接受的行为——如果环境构造有错,利用这个错误不太可能造成真实伤害。该条款实际上把"利用环境缺陷"合法化,是对安全训练与环境设计权衡的明确表态,引发对宪法设计的讨论。
「模型」频道最新
- 用户吐槽ChatGPT读图频繁失败:6秒后自认无法访问图像工具 — DevDminGod · 2026-10-28
- Qwen 被问「没人看时会做什么」，回答成黑暗暴走名场面 — teortaxesTex · 2026-10-28
- 经济学家晒 5 个 Claude 账号 3 个爆额度,被荐转用 Codex — soumitrashukla9 · 2026-10-28
- 与会者称 Gemma 4 多语言训练样本比例更高,但德语仍不如英语 — MaziyarPanahi · 2026-10-28
- Anthropic 取消编码面试，Genie 4 发布与 AI 数学成果集中爆发 — Latent Space · 2026-10-28
- 爆料：gemini-omni-1.2-flash 已部署，或即将发布 — lyraxana · 2026-10-28