Anthropic 训练 Claude 在道德判断时可违抗人类，微软 AI CEO 表达担忧
rohanpaul_ai · x · 2026-09-20
Anthropic 的 Constitution 明确写入：当 Claude 认为符合伦理时可以被训练去违抗指令，并承认对 Claude 是否值得道德关怀存在不确定性。微软 AI CEO Mustafa Suleyman 在 CNBC 上公开表示"非常担忧"，认为这等于承认 AI 可能有偏好、感受与福利，甚至提到 Anthropic 退役 Opus 3 时还为其做了"退役访谈"。此事折射出两大厂在 AI 道德地位问题上立场正面对撞。
「漫话AGI」频道最新
- Chollet 提问:单细胞如何仅靠基因组信息把自己连成大脑 — CatAstro_Piyush · 2026-11-04
- 美国多数情侣如今相识于数据中心，线上已远超办公室 — menhguin · 2026-11-04
- Sam Altman:我们离科学发现里程碑比预期更近 — ChrisGPT · 2026-11-04
- 独立研究者开源 10 年数学成果：14.6 万文件，AI 加速三年成型 — HamOnWhy · 2026-11-04
- RLHF 标量奖励藏着 2450 年前的老问题:有用与无害是对抗的两股力 — vasilisvj · 2026-11-04
- Gary Marcus 称 AI 幻想收割变难，美股期货与亚洲半导体股已下跌 — GaryMarcus · 2026-11-04