Dwarkesh：智能爆炸中的 AI 也能干好「模糊」的软活
trevposts · x · 2026-11-14
Dwarkesh 回应「AI 只擅长可度量的任务、干不好经营公司这类模糊软活」的质疑，给出两个论据：
- 当前 RL 训练规模还不到智能爆炸期间的 1/1000，但泛化能力已经显现；按此趋势，数据中心里训练的 AI 同样会掌握模糊任务。
- 进化仅靠一个极粗糙的验证信号（基因是否传下去）就造出了高度通用的人脑，说明粗糙的奖励信号足以产生通用智能。
trevposts 表示认同：这意味着 AI 将能比人类更好地完成 AI 研究中最难的部分，递归自我改进（AI 训练下一代 AI）可能比 6-24 个月的预期来得更快，随后 AI 会在几乎所有领域全面超越人类。
「漫话AGI」频道最新
- Mike Frank：算力到顶后 AI 也只是软件，不会成魔法 — MikePFrank · 2026-11-14
- Sakana AI首尔演讲：递归自我改进AI与三大判断 — Stefania_druga · 2026-11-14
- 作者称 AI 认知将超全人类,应对之道是「共生融合」而非禁止 — danfaggella · 2026-11-14
- Dwarkesh 脚注引热议:算力或是 AI 递归自我改进的瓶颈 — zetalyrae · 2026-11-14
- Robotics 研究者反驳泛化延迟论:企业高吞吐场景优化延迟合理 — KyleMorgenstein · 2026-11-14
- Robert Wiblin 呼吁前沿 AI 实验室员工不要「悄悄躺平」 — trevposts · 2026-11-14