USC 新讲义:「谱视界」理论预测有限数据下模型何时反超,给出 AUC 闭式缩放律
PTenigma · x · 2026-09-16
USC 的 Paul Thompson 发布新讲义《Beyond the Spectral Horizon: Predicting and Accelerating Scientific Discoverability》(Zenodo 开放获取),基于其此前提出的可发现性 zeta 定律,构建有限数据机器学习的谱学习曲线理论:
- 将二分类器 AUC(N) 的判别信号在数据协方差特征基上展开,只有超过随机矩阵检测阈值的特征模可恢复,由此定义「谱视界」K(N)
- 对幂律谱可化为截断黎曼 zeta 求和,得到 AUC 随数据量的闭式缩放律,可预测模型间的交叉点、阶梯式学习曲线与谱相变
- 随机扩展中把 AUC(N) 建模为鞅,用 Malliavin 分析给出未来性能的置信锥,揭示谱模态前向累积与观测后向累积的对偶
实用含义:能预判什么时候加数据、换表征或加新传感模态收益最大。作者在推文中举例:疾病分类任务中,高容量模型要等训练数据越过临界点才开始胜过简单模型,不同疾病(取决于编码器的谱视界)所处位置不同。
「研究」频道最新
- 人类的数学抽象只是「高级汇编」?有人提出 AI 或可绕过抽象硬算到底 — Jsevillamol · 2026-09-16
- 曝 OpenAI 或已攻克第二个千禧年难题,因 Navier-Stokes 风波压着多个公告 — TheGoldenLeaper · 2026-09-16
- 曼彻斯特大学用 NVIDIA Earth-2 生成式模型预报全英空气污染 — nordicinst · 2026-09-16
- AI 数月设计救命药,印度审批却要一年,澳中仅数周 — jajoosam · 2026-09-16
- CTD Commons 计划公开失败药物项目的完整监管档案供研究 — alex_peys · 2026-09-16
- 单细胞质谱 plexDIA 蛋白检测量超越 RNA 测量,数据完整性更高 — iskander · 2026-09-16