SSNA：从噪声域迁移知识
量子位 · wechat · 2026-07-20
## 这篇论文在研究什么 论文 **Semi-Supervised Noise Adaptation（SSNA）** 提出一个反常识思路：迁移学习中的“源域”不一定非得是真实图像、文本或音频，也可以是随机噪声。 ## 方法怎么做 作者先从高斯分布采样噪声，并人为分配类别索引，构造一个“噪声源域”。然后训练系统在共享表征空间里完成三件事： - 用少量真实标注样本学习目标域编码器； - 让噪声通过投影器形成可分离的类别结构； - 再把噪声域和目标域对齐。 ## 主要结果 论文在多个数据集上验证了 **Noise Adaptation Framework（NAF）**： - 在 **CIFAR-10/100、DTD-47、Caltech-101** 等少样本设置下，相比普通监督学习基线有明显提升； - 在 **CUB-200、OxfordFlowers-102、StanfordCars-196** 等细粒度任务上同样有效； - 在 **ImageNet-1K** 上，使用每类 100 个标注样本时达到 **37.10%** Top-1； - 在文本分类 **AGNews-4** 上也带来增益。 ## 消融结论 论文强调，真正有用的不是“随机噪声”本身，而是**噪声里是否形成了可分离的结构**。如果把所有噪声类压成同一个点，效果会明显变差；类别结构越清晰，越可能帮助目标任务。 ## 这项工作的意义 当真实源数据因为隐私、版权或成本而不可得时，结构化的合成噪声可能成为一种低成本替代方案，为迁移学习提供新思路。
「研究」频道最新
- 一个 C++20 CPU 原生 strict-W1 训练 runtime 寻求反馈 — Wonderful-Income7415 · 2026-07-21
- 微软提出像训练神经网络一样训练 agent 技能 — Saboo_Shubham_ · 2026-07-21
- 研究者：AI 应是放大器，而不是放弃科研的理由 — omarsar0 · 2026-07-21
- 海森矩阵入门：二阶导数如何影响神经网络优化 — burny_tech · 2026-07-21
- 相关 verifier 串联会让 LLM 可靠性卡在 100% 以下 — Jiangang Han · 2026-07-21
- DiffGI 用可微几何图像提升薄壳 3D 生成质量 — clovir21 · 2026-07-21