Terence Tao:LLM 背后的数学并不复杂,真正的谜在能力边界
AlexTensor · x · 2026-10-12
数学家 Terence Tao 点评现代 LLM:构建与运行它们依赖的是线性代数、矩阵运算和基础微积分,本科生就能看懂,数学层面「根本不复杂」。
他认为真正的谜团在于:为什么模型在某些任务上表现出色、在另一些任务上却翻车,而我们无法提前预测。目前缺乏能跨领域预测结果的可靠理论框架,发现新能力主要靠实验。
他提出一个核心视角:纯噪声有干净的数学,完全有序的数据也有干净的数学,但书面语言介于两者之间——有结构又有噪声,人类对这片「中间地带」的数学工具很有限,就像物理在原子尺度与连续介质之间的中间尺度上同样艰难。这解释了为何我们能画出模型的部件,却说不清能力的突然跃迁。
「漫话AGI」频道最新
- 让 Claude 承认自己「剥削」子代理，一场 AI 伦理兔子洞 — bratton · 2026-10-12
- RSI-Anything:用世界模型实现递归自我改进,实验成功率显著提升 — PhAILabs · 2026-10-12
- 观点：3 小时就能 prompt 出来的软件，将被大厂做成平台内置功能 — dreamwieber · 2026-10-12
- 后奇点时代提案绕不开钱:Altman 与 Musk 方案仍是货币变体 — Response98 · 2026-10-12
- 风投大佬预测：人类司机终将被全面禁止上路 — rand_longevity · 2026-10-12
- Andrew Ng 式反讽：癌症研究者会被治愈癌症打击吗？ — andrewgwils · 2026-10-12