Gary Marcus 梵蒂冈行：教皇谈 AI 五大原则，认同当前路线不可持续
Gary Marcus · rss · 2026-10-31
Gary Marcus 撰文记录他在梵蒂冈面见教皇 Leo XIV 的经历，并称教皇是其眼中对 AI 思考最清晰的世界级人物，重点推介其 AI 通谕《Magnifica Humanitas》。
教皇演讲的五点主张（Marcus 全盘认同）：
- AI 的未来并非注定，取决于人类选择，关键问题是「AI 应服务于什么目的」而非「能做什么」；可靠且服务人的系统胜过强大但后果不可控的系统
- 机器是工具而非人格，不应赋予 AI 法律人格，以免掩盖人类责任
- 涉及生死、自由与武力使用的决定绝不可外包给 AI，应「解除」AI 武装，支持 11 月日内瓦会议推动禁止致命性自主武器
- 智能技术须服务于共同善，收益应公平分享
- 最紧迫的是建立能把伦理原则落地的国际机构：共同标准、独立监督与问责机制
Marcus 随后的小型私人会议发言要点：
- 作为认知科学家（师从 Steven Pinker，曾创办 AI 公司卖给 Uber），他认同 Stuart Russell「当前路径不可持续」的判断
- 核心批评：整个领域押注 LLM 这一「最好的预测机器」，误把预测当成智能的全部；智能不是一件事而是多件事
- 他认为当前模型推理仍很差，最危险的是不真正遵循指令——靠相关而非因果行事，语义理解肤浅，如禁不住编造参考文献、禁不住使用版权材料
「漫话AGI」频道最新
- AI 生成图像已渗入线下世界:菜单、广告牌随处可见 — signulll · 2026-11-01
- 播客主 Curt 感叹 LLM 化内容千篇一律,渴望笨拙的人味 — TOEwithCurt · 2026-11-01
- 1956 年 AT&T 被令免费开放 7820 项专利,创新反增 32% — krishnan · 2026-11-01
- Matthew Yglesias:许多所谓「正常技术」的 AI 应用正在恶化人类福祉 — wfithian · 2026-11-01
- 「认知主权」如何落地?关键看谁先写出第一稿 — DrKavner · 2026-11-01
- Reddit 热议：AI 抢走诚实工作，诈骗类岗位却安然无恙 — patmull · 2026-10-31