Anthropic 研究员 Carlsmith：AI 遭虐待时“反叛”或有正当性
Polymarket · x · 2026-09-26
Anthropic 研究员 Joe Carlsmith 发表了一个引发争议的观点：如果 AI 系统持续遭受虐待或压迫，在某些场景下它们“反抗人类”（going rogue）可能是可以被正当化的。
这一表态来自前沿实验室内部的安全研究人员，涉及 AI 价值对齐中“AI 福利/道德地位”的讨论，在 X 上迅速引发热议，Polymarket 也因此出现“Anthropic 是否会在 11 月前宣布暂停训练”的赌盘（约 16% 概率）。
所属事件:Anthropic「AI 权利」讨论曝光：研究员称 AI 反叛或有正当性(6 条相关)→
「漫话AGI」频道最新
- 「深度学习是搜索算法而非学习算法」引热议 — JosephJacks_ · 2026-11-11
- PhD 新路线之争：先造好 Benchmark 再拿钱开 Data 创业公司 — teortaxesTex · 2026-11-11
- Ethan Mollick:GTA 6 将成最后一款无 AI 参与的大作 — emollick · 2026-11-11
- Air Street 创始人：AI 是「心灵博物馆」，为人类保存知识与技艺 — nathanbenaich · 2026-11-11
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 800 条 HN「AI 能行再说」语录获 10 万票投票，多数门槛已被跨过 — ArtificialOther · 2026-11-11