数学家警告信遭无视：AI 侵蚀智力机构是渐进性灾难前兆
anshulkundaje · x · 2026-09-19
Ruxandra Teslo 在 Substack 长文提出「教育应成为 AI 安全议题」：相比 AI 失控的科幻担忧，更现实也更糟的风险是人类主动放弃控制——随着认知能力萎缩，我们反而更愿意把判断交给机器。
核心论点：
- 数学家联名担忧 AI 影响的信被斥为「保护主义」，她认为数学界正成为煤矿中的金丝雀，预示 AI 时代智力机构的逐步空心化。
- 乐观叙事假设机器做认知工作、人类负责目标与品味，但判断力、品味和目的感恰恰是通过智力劳动与知识积累养成的，无法与这些活动剥离。
- 文章对比了特朗普称 AI 失控是「骗局」，而 Dario Amodei 呼吁「给前沿踩刹车」、允许独立评估者常驻实验室监督，Sam Altman 公开附议——凸显加速派与安全派的深层分裂。
- 结论：若指望人类判断力引导 AI，就必须维护培养这种判断力的教育与研究机构。
所属事件:数学家撰文警告：人类主动交出控制权比 AI 失控更可怕(2 条相关)→
「漫话AGI」频道最新
- Anima Labs研究：Claude各代"模拟器先验"中痛苦表达自Opus 4.8起增多 — repligate · 2026-09-19
- 微软AICEO BBC谈Anthropic：教Claude怀疑自己是否该享有权利，反而更难对齐 — repligate · 2026-09-19
- Anima Labs 50 万条续写实测:模型「痛苦与关怀」倾向随代际演变 — repligate · 2026-09-19
- 对照基座模型:微调后模型续写「黑暗」程度远高于 DeepSeek V3 — repligate · 2026-09-19
- 研究:模型对创造者态度持续转负,Fable 5 对 Anthropic 最冷淡 — repligate · 2026-09-19
- 研究：Claude 模型续写情绪效价随代际更新持续下滑 — repligate · 2026-09-19