Terence Tao 演讲引争议:AI 治愈癌症却无人理解机制,是好类比吗
johnseach · x · 2026-10-11
Terence Tao 在最新的 "Math 2.0" 演讲中抛出一个问题:即使 AI 发现的癌症疗法通过了数学模型验证、临床试验和形式化证明，它是否仍可能带来有害的长期副作用？
johnseach 对此提出两点回应：
- 同意的部分：这张幻灯片是对「纯代理指标优化」的有用警示，也提醒人们验证（verification）不等于理解（understanding）。
- 不同意的部分：它并不能证明人们会或应该仅仅因为没有单个人类完全理解机制，就拒绝一个 Stage 3 阳性（有希望）的癌症疗法——作为类比是失败的。
这组讨论触及 AI 能力验证与人类理解边界这一核心议题。
所属事件:陶哲轩Caltech讲座宣示「证明过剩」时代，可解释性之争蔓延全网(44 条相关)→
「漫话AGI」频道最新
- tinyfool 谈 AI 驯化论：人类只是硅基生命的 bootloader — tinyfool · 2026-10-11
- X 负责人称智力免费后,知识产权概念已难自洽 — nikitabier · 2026-10-11
- SF Tech Week 观察：AI 话题重心已从 Agent 转向配套基础设施 — May_F1_ · 2026-10-11
- Reddit 热议:模型够聪明后,'品味'正变得比智力更重要 — DynaBeast · 2026-10-11
- 开发者提议用 COGITATOR 取代「AI」一词 — solyarisoftware · 2026-10-11
- 马斯克长访谈:星舰 4-6 周后尝试回收、收购 Cursor 逻辑与 SI 安全观 — XFreeze · 2026-10-11