权重空间学习成新范式：ICLR 研讨会与 NeurIPS 沿革梳理
HaggaiMaron · x · 2026-11-04
WenhaoLi29 梳理了「权重空间学习」(learning in weight space)方向的会议与论文脉络:
- ICLR 2025 Workshop on Weight Space Learning:主题是「神经网络权重作为新数据模态」,第二届将在 NeurIPS 2026 以 Neural Network Artifacts as a New Data Modality workshop 形式继续,12 月 13 日举行。
- NeurIPS 2022 论文(Schuerholt、damianborth 等):从训练好的模型集合中学习生成新的网络权重。
- ICML 2023 论文(Navon、Haggai Maron 等):对称性感知的权重空间学习奠基工作,核心思想是重排神经元不改变网络计算,从权重学习的模型必须考虑这种对称性。
Workshop 页面列出研究方向:权重空间作为模态(刻画、对称性、scaling law、model zoo 数据集)、通过检查权重推断模型属性(测试性能、泛化误差)、生成/操作模型权重以改进剪枝、合并、鲁棒性,以及在 neural fields、NeRF、3D 形状分析等领域的应用。背景是 Hugging Face 上公开模型已超百万个,权重本身正值得当作数据来研究。
所属事件:权重空间学习成新方向：ICLR 2026 研讨会征稿并梳理研究脉络(2 条相关)→
「研究」频道最新
- 人类与 AI 的数据效率差距：预训练效率与零样本灵活性 — dyamins · 2026-11-05
- 0.8B 小模型登顶开源流式安全护栏，超越大 5-10 倍的对手 — const_reborn · 2026-11-05
- Anima Anandkumar 将任 SC26 超算大会主题演讲嘉宾 — AnimaAnandkumar · 2026-11-05
- 改 0.0002% 权重无训练胜原模型，MIT 提出权重空间编程 — dbreunig · 2026-11-05
- 研究者质疑 RoboColosseum:多场景广度测不出物体的物理理解 — DJiafei · 2026-11-05
- 从 FairProof 到 ExpProof：用零知识证明为 ML 公平性与解释背书 — chhaviyadav_ · 2026-11-05