ICML 口头报告论文：别再事后修补，AI 科学必须研究训练动力学

ChrisGPotts · x · 2026-10-23

Stella Biderman、Mohammad Aflah Khan、Niloofar Mireshghallah、Naomi Saphra 等可解释性研究者的立场论文（ICML oral）主张：模型不是静态对象，而是由数据、目标、架构与优化动力学塑造的时间演化过程的快照；但大量 AI 研究把模型当固定产物做事后分析。论文提出 AI 科学应研究产生模型行为的训练动力学，支持逐步增强的理解形式：从早期训练信号预测结果、在轨迹偏离时干预、乃至设计更可靠地产生目标性质的训练流程。作者梳理了机制可解释性、公平性、记忆化与简洁性偏置的进展，并列出具体开放问题。