学者质疑 Suleyman 反模型福利论:循环因果不是循环论证
jzl86 · x · 2026-09-17
Google DeepMind 研究员 Joel Z. Leibo 回应 Mustafa Suleyman 反对「模型福利」运动的文章,指出其论证中的一个概念混淆。
- Suleyman 主张 AI 不具备意识、不会感受痛苦,但支持模型福利的思潮正在兴起;他认为这会让对齐与遏制变得更难甚至不可能。
- Leibo 指出,通常「循环论证」指责的是论证层面的循环(逻辑谬误),但 Anthropic 宪法这类案例中的循环更接近因果层面的循环——这只是随时间展开的因果回路,并非谬误。
- 他的核心观点:前沿实验室的模型设计者有能力决定这些问题的答案,它们不是被逻辑或生物学强加的,而是设计决策,因此我们握有巨大权力,必须谨慎使用。
Leibo 补充他的详细论证见其论文《A Pragmatic View of AI Personhood》。
所属事件:微软 Suleyman 发文反对「模型福利」，点名批 Anthropic(16 条相关)→
「漫话AGI」频道最新
- 研究员反讽：警告你 AI 安全是精英论调的，正是硅谷精英 — DavidSKrueger · 2026-09-17
- 「AI 灭绝人类」与「AI 让未来变得很怪」应分开谈 — dbasch · 2026-09-17
- AI 已让软件开发面目全非,CSO Online 探问网络安全是否是下一个 — ChuckDBrooks · 2026-09-17
- AI 实验室争称 AGI 临近，但这个词早已被悄悄换了含义 — scientificamerican · 2026-09-17
- 同一个人谈AI风险:Instagram上被骂阴谋论,X上被骂觉醒阴谋论 — DavidSKrueger · 2026-09-17
- 反直觉猜想：消灭低等生物是人性，未必是 ASI 特征 — adonis_singh · 2026-09-17