损失函数即科学假设：选 MSE 还是交叉熵暴露你对噪声的预设

bravo_abad · x · 2026-09-11

作者指出机器学习中损失函数的选择不只是优化细节，而是隐含的科学假设。加性高斯噪声下最小化 MSE 等价于极大似然估计，交叉熵则自然源于二项分布模型。换损失函数不仅改变模型认为哪些错误更昂贵，也改变了对数据生成过程的整体统计图景。因此科学机器学习中更有价值的问题不是「该用哪个模型」，而是「我在假设什么样的噪声与误差」——损失函数本身就是科学模型的一部分。该观点出自其 2026 年出版的《Inteligencia artificial para estudiantes de ciencias》一书。