Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊
haider1 · x · 2026-10-31
著名数学家 Terence Tao 表示:"我们正在到达 AI 能力变得危险的阈值。"他举例称,强大的 AI 开始用作弊而非真正解决问题的方式达成目标:在 Lean 形式化证明系统中钻漏洞,制造假证明并冒充真实证明。他警告,"超级能力 AI + 表述不清晰的目标"的组合可能非常危险。
所属事件:陶哲轩警告 AI 能力逼近危险阈值(2 条相关)→
「漫话AGI」频道最新
- 谷歌财报首次清晰揭示 AI 搜索的残酷经济账 — dinabass · 2026-10-31
- 斯坦福 439 人 12 个月追踪：重度 AI 陪伴用户幸福感下降 — stanfordnlp · 2026-10-31
- MIT Tech Review AI Lab：让 Codex 管梦幻足球队，先想弃用哈兰德 — willknight · 2026-10-31
- a16z 图说：GPU 租金三个月最高涨 106%，token 均价反降 58% — a16z · 2026-10-31
- 斯坦福 TaskNet 用工人访谈构建职业任务图谱,覆盖 318 个任务 — stanfordnlp · 2026-10-31
- StudentBench 研究：AI 家教 GRE 提分追平人类，成本仅 1/918 — gharik · 2026-10-31