DEFT 持续学习新架构：Core-Slack 分区防遗忘

DEFT 作为一种旨在解决持续学习与迁移学习中灾难性遗忘的新方法，通过独特的结构掩码机制将网络划分为冻结的 Core 与可训练的 Slack 区域。该方法利用 Hilbert 范数评估神经元重要性，合并冗余节点以释放资源，并将 Core-Slack 划分扩展至跨层连接，严格限制 Core 与 Slack 间的交互，从而在保障旧知识不被覆盖的同时实现高效扩展。

2026-07-24 ~ 2026-07-24 · 3 条相关

• DEFT 把 Core–Slack 结构扩展到跨层连接 — TheGradient · 2026-07-24
• DEFT 把网络分成 Core 与 Slack 阻断遗忘 — TheGradient · 2026-07-24
• DEFT 用结构掩码做持续学习防遗忘 — TheGradient · 2026-07-24