研究者争论：缺乏外部验证 LLM 误差会悄然累积

Gerard Sans 等研究者围绕 LLM 能力上限展开争论：大模型本质上是分布系统，会随输入经历相变——输入可能落在分布内、稀疏采样区或完全越出训练覆盖(OOD),且输出以输入为条件，输入空间越大，被静默吸收的近似错误就越多。在没有强外部验证机制的情况下，这些大量近似误差可能无人察觉地累积，因此验证环节被认为是 AI 实现下一次关键跃迁所缺失的一环。

2026-09-19 ~ 2026-09-19 · 3 条相关

• 争论：预训练数据之外，验证环节才是 AI 缺失的关键跃迁 — gerardsans · 2026-09-19
• 缺乏外部验证的 LLM 输出会悄悄累积近似错误 — gerardsans · 2026-09-19
• 研究者争论：缺乏强验证时 LLM 近似误差会悄然累积 — gerardsans · 2026-09-19