ICML 2026 口头论文：AI 科学不能只靠事后修补

max_paperclips · x · 2026-08-13

这篇被 ICML 2026 接收为口头报告的立场文章指出，当前 AI 研究过于将模型视为静态 artifact，只在训练后进行事后分析与修补。文章主张，真正的 AI 科学必须深入研究产生模型行为的训练动态。

作者认为，科学理解应当支持从早期训练信号预测结果、在轨迹偏离时进行干预，并最终设计出能可靠产生预期属性的训练流程。虽然 Scaling laws 已经让 loss 的预测变得常规，但挑战在于将这种成功扩展到能力、偏见、鲁棒性和安全行为上。文章还基于科学史和科学哲学，审视了机制可解释性、公平性、记忆和简单性偏见等领域的现有进展，并提出了具体的开放性问题。