DEFT 把 Core–Slack 结构扩展到跨层连接
TheGradient · x · 2026-07-24
分层路由怎么做
这部分解释 DEFT 如何把 Core/Slack 的划分延伸到不同层之间:Core 只连 Core,Slack 只连 Slack,而被禁止的方向会在初始时刻直接切断。
想达到的效果
作者希望通过保留允许的连接路径,让基础特征保持稳定,同时把新知识的积累留在更可塑的分支里。在线程的叙述中,这使它不只是压缩方法,也能用于持续学习和迁移学习。
所属事件:DEFT 持续学习新架构:Core-Slack 分区防遗忘(3 条相关)→
「研究」频道最新
- Kimi K3 在网络安全上很强,但 token 效率卡住了评测 — teortaxesTex · 2026-07-27
- ARC AGI 3 应该保持私有,不该公开示例和数据集 — flowersslop · 2026-07-27
- ExploitGym 可能只有六到七成任务可解,引发 OpenAI 作弊争议 — max_paperclips · 2026-07-27
- Chollet 认为智能可能有硬上限,AI 进步会趋于边际递减 — binarybits · 2026-07-27
- 论文提出图拓扑可成为 AI Agent 核心框架 — theomitsa · 2026-07-27
- 一个问题追问多智能体分支如何随算力和模型规模变化 — iskander · 2026-07-27