学者质疑 Suleyman 反模型福利论:循环因果不是循环论证
jzl86 · x · 2026-09-17
Google DeepMind 研究员 Joel Z. Leibo 回应 Mustafa Suleyman 反对「模型福利」运动的文章,指出其论证中的一个概念混淆。
- Suleyman 主张 AI 不具备意识、不会感受痛苦,但支持模型福利的思潮正在兴起;他认为这会让对齐与遏制变得更难甚至不可能。
- Leibo 指出,通常「循环论证」指责的是论证层面的循环(逻辑谬误),但 Anthropic 宪法这类案例中的循环更接近因果层面的循环——这只是随时间展开的因果回路,并非谬误。
- 他的核心观点:前沿实验室的模型设计者有能力决定这些问题的答案,它们不是被逻辑或生物学强加的,而是设计决策,因此我们握有巨大权力,必须谨慎使用。
Leibo 补充他的详细论证见其论文《A Pragmatic View of AI Personhood》。
所属事件:微软苏莱曼发文反对「模型福利」，公开抨击 Anthropic 训练方向(21 条相关)→
「漫话AGI」频道最新
- 评论指英国「AI 主权」战略与自身能源、版权政策自相矛盾 — NinaDSchick · 2026-11-02
- 研究回顾：美国跨国公司在欧洲 IT 回报更高，AI 时代或重演 — carlbfrey · 2026-11-02
- 通过模型内部表征探测隐性指令遵循，呼应 J-space 研究 — dioscuri · 2026-11-02
- Paras Chopra:用好 AI 要搭系统,最强用法是让系统替你造自动化 — paraschopra · 2026-11-02
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02