Danielle Fong：过半进步工作卡在与人类文明的接口上

DanielleFong · x · 2026-11-08

Danielle Fong 在与 Anders Sandberg 的讨论中提出：进步工作中超过一半是与人类文明打交道，而这正是目前做得最差的部分。她认为虽然可能因「积压效应」大幅改善，但继续依赖过度简化的进步模型没有益处——简化模型总有用尽的一天，进步建模必须走向多维化，何况 AI 本身就已拥有数万亿参数。

Sandberg 在被引用的回复中解释，他曾考虑做带内部瓶颈与结构的模型但发现难以讲清观点，Amdahl 定律作为减速因子在早期指数阶段不可见。