首篇权重空间学习综述：统一理解、表示与生成三维分类
burny_tech · x · 2026-11-10
arXiv 新综述《A Survey of Weight Space Learning》(arXiv:2603.10090)，Xiaolong Han 等 11 位作者合著，首次为 Weight Space Learning (WSL) 建立统一分类体系。
- 核心主张：神经网络权重不应只被看作训练的最终产物，权重空间本身包含丰富结构——预训练模型形成有组织的分布、展现对称性，可被嵌入、比较甚至生成
- 三维分类：
- WSU（理解）：研究权重的几何与对称性
- WSR（表示）：学习模型权重上的嵌入
- WSG（生成）：通过 hypernetwork 或生成模型合成新权重
- 应用方向：模型检索、持续学习与联邦学习、神经架构搜索、无需数据的模型重建
所属事件:首篇权重空间学习综述提出统一三维分类框架(2 条相关)→
「研究」频道最新
- 四本免费数学书打底 ML:线代、概率、优化、信息论各一本 — cneuralnetwork · 2026-11-10
- 机器学习数学四本免费书单：线代、概率、优化、信息论 — cneuralnetwork · 2026-11-10
- Meta FAIR 提出 e-means：1/10 轮次超越 k-means，GPU 提速最高 45 倍 — burny_tech · 2026-11-10
- 梯度归因难以可靠过滤「阈下学习」，NeurIPS 论文给出实证 — ponguru · 2026-11-10
- Yang-Mills 工作组明日公布 OpenAI 完整 Lean 代码与验证结论 — burny_tech · 2026-11-10
- 可解释性研究不应只盯着预测力，解释本身才是目标 — burny_tech · 2026-11-10