算力外推能否预测 AGI:一场关于脑模拟估算的争论
一场关于「算力外推能否预测 AGI」的争论在 X 上爆发。起因是一类常见论证:估算模拟人脑所需算力,假设算力按恒定或加速趋势增长,推算何时达到该阈值,并断言届时 AGI 也不远。phl43 于 09-06 系统性批驳了这一论证,指出我们对大脑的理解仍然很差,据此估算的模拟所需算力几乎必然误差很大;他承认算力持续增长几乎是这类论证中最稳妥的假设,但其余环节并不可靠。
已确认
- phl43 发帖系统性批驳「脑模拟估算+算力外推」式 AGI 预测,认为模型几乎必然有误
- stanislavfort 加入支持,指出我们甚至不知道大脑如何实现其运行的学习算法,对大脑的理解极其有限,这构成对算力外推论证的又一反驳
- teortaxesTex 反对上述观点,认为我们对大脑的理解已经足够,且复现大脑不需要懂神经科学——我们不会照搬大脑,多数关键要素早已在 McCulloch-Pitts 时代等工作中解决
- DeepMind 研究员 akarvonen 表态力挺 Kurzweil 1999 年基于外推算力增长并与大脑 FLOPS 对比的 AGI 预测,称事后看这几乎就是预测 AGI 所需的全部
- phl43 回击 akarvonen,称这是「糟糕的论证」、恰是他批评对象的最佳例证,并决定专门撰文详细批驳
为什么重要
这场争论触及 AI 风险与 AGI 时间线预测的方法论根基:如果对大脑机制的认知缺口足以使脑模拟算力估算大幅失真,那么大量依赖此类外推的 AGI 预测(包括 Kurzweil 的经典论断)的可信度都要打折扣。phl43 计划中的专文批驳与 DeepMind 研究员公开站队 Kurzweil,使这场讨论从技术细节上升为具代表性的路线之争,值得持续关注。
2026-09-06 ~ 2026-09-06 · 6 条相关
一手来源
- 用算力外推预测 AGI 不可靠:脑模拟估算模型几乎必然有误 — phl43 ·
- Karvonen 力挺 Kurzweil:算力外推几乎就是预测 AGI 的全部 — a_karvonen ·
- phl43 回击:算力外推论证糟糕透顶,将专文详细批驳 — phl43 ·
- 【源头】Karvonen 力挺 Kurzweil:算力外推几乎就是预测 AGI 的全部 — a_karvonen · 2026-09-06
- 【源头】phl43 回击:算力外推论证糟糕透顶,将专文详细批驳 — phl43 · 2026-09-06
- 【源头】用算力外推预测 AGI 不可靠:脑模拟估算模型几乎必然有误 — phl43 · 2026-09-06
- X 网友交锋:对大脑算力的理解足以支撑模拟人脑的算力推算吗 — teortaxesTex · 2026-09-06
- stanislavfort:连大脑运行的学习算法我们都不知道,谈何理解大脑 — stanislavfort · 2026-09-06
- 网友争论:复现大脑不需要懂神经科学,关键原理早已解决? — teortaxesTex · 2026-09-06