研究者批 AGI 炒作:LLM 在持续学习与环境反馈上全面缺位
gerardsans · x · 2026-10-09
Gerard Sans 回应他人对 AGI 的乐观预期,提醒注意 Terence Tao 近期对 AI 炒作的警告,认为盲目乐观离妄想只有一步。
他给出核心论据:真正的超级智能不需要如此多的人工辅助,而当前 LLM 恰恰在 harness(外围工程)所涉及的各个环节上全面失败:
- 持续学习(live tracking)缺失
- 缺乏环境反馈与 grounding(没有 verifier)
- 缺少外部控制,如执行、编排与资源管理
他认为当前的 AGI 叙事本质上是"一团工程烂摊子",而非通往超级智能的清晰路径。
「漫话AGI」频道最新
- 观察：开源模型稳定落后前沿，但人们仍可按立场选择 — panickssery · 2026-10-09
- OpenAI Quasi-Riemann 震动数学界:百位数学家披露集体反应 — littmath · 2026-10-09
- Epoch 推出自动化报告：前沿模型能否替代我们的研究工作 — scaling01 · 2026-10-09
- AI 生成的数学证明泛滥,数学界发起抵制 OpenAI 行动 — The Decoder · 2026-10-09
- Reddit 热议:卡辛斯基 1995 年对机器接管决策的预言正在应验? — NeighborhoodFatCat · 2026-10-09
- Tom Davidson 呼吁停止旧日争论:反对放缓 AI 的是缺乏背景的人 — AdrienLE · 2026-10-09