陶哲轩连发警告：AI 抢发与文化或毁掉科学信任
Gary Marcus · rss · 2026-09-09
Gary Marcus 汇总了两条对 AI 前景的警告。
陶哲轩观点转变：这位最受尊敬的在世数学家曾对人机共存持乐观态度，但近两天在 mathstodon 连发三帖，观点明显转冷——指出解谜题不等于产生新洞见，讨论「智识品味」被 AI 冲击，并呼吁透明度。最后一帖被解读为暗指 OpenAI-NYU-Anthropic 的 Navier-Stokes 争议：OpenAI 花费 2250 万美元抢在 Alpöge 和 Buckmaster 之前发表，且「不能排除」使用了他们的产品使用数据改进模型。Marcus 认为这是对科学未来「真正可怕的警告」，并质疑若科学家不信任 AI 公司不窃取 IP，AI「治愈癌症」便无从谈起。
Jacob Coxon 离职 Anthropic：刚刚离开 Anthropic 的 Coxon 发文（正在疯传），从一线视角描述前沿实验室「自利且危险」的思维方式，警告未来危害。Marcus 认为其夸大了 AI 近期能力、且对当下危害着墨不足，但整体仍是一份令人不安的一手视角。Marcus 自己的判断：灭绝不太可能，但灾难性伤害完全可能，且「没有人有认真的计划」；技术上唯一的出路可能是抛弃「完全无法矫正」的 LLM 范式，但两家公司都没认真对待。
「漫话AGI」频道最新
- KOL 发声：AI 实验室的安全担忧不是营销话术 — AndyMasley · 2026-09-09
- 80,000 Hours 长文论证：AI 风险为何是世界最紧迫问题 — AndyMasley · 2026-09-09
- Boaz Barak：OpenAI 内部正真切感受到能力量级的震撼 — dgrobinson · 2026-09-09
- 研究者反讽：暂停算法进步反而会让 AI 风险最大化 — kellerjordan0 · 2026-09-09
- 研究者公开质疑:安全承诺如何与 AI 竞赛动态自洽 — joshalbrecht · 2026-09-09
- 工程师文化越来越怕被 fork:极端保密正蔓延到学术界 — rakyll · 2026-09-09