AI 的三种严谨性
IAmTimNguyen · x · 2026-07-15
作者回应“深度学习像炼金术”的常见批评，认为这类说法只抓到了一部分问题：现代 AI 并非纯粹的无纪律试验，它既有大量严格性，也仍然缺少对一些基础问题的答案。 他提出 AI 的严谨性可以分成三类： - **概念严谨性**：术语和范式是否清晰，例如“智能”“AGI”“对齐”到底指什么。 - **认识论严谨性**：经验结果是否真的上升为科学理解，能否复现、预测、解释。 - **操作严谨性**：系统在基准测试、评估和部署中是否稳定可靠。 文章强调，很多争论表面上是在讨论同一个属性，实际上不同人可能在评估不同维度。比如“模型是否智能”这件事，有人看广度，有人看规划能力，有人看样本效率，有人看是否具备世界模型。概念澄清因此会直接影响测量、优化和构建方式。 在认识论层面，作者指出 AI 实验虽然在原则上容易复现，但结论常常受随机种子、超参、实现细节、基准选择和算力预算影响；能复现一个数字，不等于复现原结论。对泛化、分布外失效和对抗鲁棒性的普遍规律，我们仍然缺少足够强的理论。 在解释层面，神经网络虽然数学上可定义，但学到的特征仍很难被人类直接理解。一个行为可能来自数据、优化过程、内部表征及其交互，而不是单一因素。作者认为，现代 AI 最强的是操作严谨性，但在概念和认识论严谨性上仍显不足。