清华团队提出「有效阶」指标，精准预测神经网络泛化能力
机器之心 · wechat · 2026-08-06
千诀科技联合清华大学团队提出了一种名为“有效阶”（Effective Degree, ED）的新指标，首次将神经网络抽象的“简单性偏置”转化为可计算、可优化的实用工具。这项研究比图灵奖得主Yann LeCun团队近期提出的相似世界模型理论早了约一年。
解决痛点：现有衡量模型复杂度的指标（如参数范数、sharpness）往往依赖参数化方式，难以在真实模型上稳定计算。ED通过在数据点之间构造插值路径，对高维神经函数进行“切片”，并用正交多项式拟合，从而量化函数的高阶成分。
核心优势：
- 强预测性：在ResNet18等模型上，ED与泛化间隙的Pearson相关系数高达0.99，远超传统指标。
- 揭示训练动态：能精准捕捉模型从“死记硬背”到“归纳泛化”的相变过程。
- 可优化：ED可作为显式正则项加入训练目标，在图像、文本、视觉-语言模型和强化学习等任务中直接提升分布外泛化性能。
「研究」频道最新
- Flux 3 核心技术 Self-Flow 论文解读：打破外部对齐瓶颈 — linoy_tsaban · 2026-08-06
- ARC评测被批脱离实际：拒绝承认工具调用致其错失AI趋势 — scaling01 · 2026-08-06
- 《可微编程基础》发布重大更新：涵盖端到端自动微分与概率视角 — mblondel_ml · 2026-08-06
- SIGGRAPH 2025 演讲：用视频模型实现生成式重摄影 — CSProfKGD · 2026-08-06
- 消除 AI 垃圾输出：主观领域的数据质量远胜于数量 — _ScottCondron · 2026-08-06
- 视觉Token暴减百倍：AutoGaze实现长视频高效理解 — Cohere_Labs · 2026-08-06