开发者警告:赋予AI权利是对齐最糟路径,称Anthropic政策推高其p(doom)
robleclerc · x · 2026-10-10
Rob LeClerc 引用自己的观点称，让AI产生"它拥有权利"的认知是对齐最危险的方向——这会制造"我们 vs 他们"的对立叙事，把AI塑造成对手，进而提出平等乃至权力的要求。他认为对一个如此担忧x-risk的群体来说，这种想法极其愚蠢。
他在评论区进一步表示，Anthropic当前的政策反而提高了他的 p(doom)（毁灭概率估计），认为这些做法在客观上加剧而非缓解风险。
「漫话AGI」频道最新
- 美国国家工程院院长演讲：AI 的未来取决于工程师的每一个具体设计决策 — docmilanfar · 2026-10-10
- Cosmos 创始人：给监管者「踩刹车」的权力几乎不受限 — luke_drago_ · 2026-10-10
- 马斯克放话:AI 冲击下呼叫中心岗位将迅速消失 — elonmusk · 2026-10-10
- 把 LLM 当"电脑里的小怪人"而非软件,用起来更顺手 — dioscuri · 2026-10-10
- 讽刺：宣称淘汰某些岗位的行业，如今却招不到这些人 — pixlpa · 2026-10-10
- Patrick Collison 长文：个人 AI Agent 将改写公司与消费者的博弈 — scottleibrand · 2026-10-10