陶哲轩警告：AI 数学能力与网络攻击能力高度相关，风险非常真实
sytelus · x · 2026-09-11
顶级数学家 Terence Tao 就 AI 风险发表看法：最新工具的双重用途能力「极其令人担忧」。AI 解决纯数学问题的能力与利用系统安全漏洞等恶意行为的能力高度相关，近期发生重大 AI 引发的网络安全事件的风险「非常真实」，其世界历史意义可能超过解决所有千禧年大奖难题。他明确支持放慢更强模型的开发与发布。
同时，Tao 的博客介绍了 Alpöge 与 Buckmaster 在 3D Navier-Stokes 全局正则性问题上的新进展：他们基于 Córdoba 与 Martínez-Zoroa 的工作，对 IPM 方程、二维 Boussinesq 方程和三维不可压 Euler 方程构造出了光滑初值与光滑外力下的有限时间爆破，方法很可能推广到 Navier-Stokes 本身——而且这套证明已在 Lean 中完成形式化，靠的正是当下的自动形式化 agent。
「漫话AGI」频道最新
- AI 安全岗位到底做什么？网友追问 alignment 研究员日常工作内容 — AaronBergman18 · 2026-09-11
- AI Safety 从业者到底每天在干什么？X 网友真诚发问引热议 — AaronBergman18 · 2026-09-11
- 中转站已成灰色市场，博主称阻止使用与蒸馏是逆经济规律 — tinyfool · 2026-09-11
- Qwen 团队 Justin Lin：架构过度复杂会埋下 eval 测不出的隐患 — JustinLin610 · 2026-09-11
- 数学界有人呼吁抵制 AI：不供 benchmark、不审预印本、不免费站台 — sytelus · 2026-09-11
- 博主提议新评测维度:看 Agent 敢不敢劝阻坏实验 — VraserX · 2026-09-11