uTTT 论文:跨层共享单一快权重记忆,提升长上下文与测试时学习
JunjieHu12 · x · 2026-10-08
研究者 Junjie Hu 等发布 uTTT(Universal Test-Time Training)工作,核心设想是:模型的记忆不必绑定在单独的层,而是让整个网络共享同一份快速权重(fast-weight)记忆——所有层使用相同的状态和计算。
要点:
- 单一共享记忆模块被网络的每一层复用,取代各层独立记忆
- 带来更好的长上下文检索能力与视图合成(view synthesis)表现
- 模型可以在测试时快速学习(test-time learning)
- 作者认为这为构建能持续学习、终生学习的 agent 打下基础:当 AI agent 产生越来越长的轨迹时,如何记录并从全部经验中学习是关键挑战
论文、代码与项目主页已随帖发布。
「编程与Agent」频道最新
- Windows 现场 demo:编码任务被自动路由到本地模型,llama.cpp 已接入 Windows ML — ryanshrout · 2026-10-08
- Claude Code 2.1.293 即将发布 — ClaudeCodeLog · 2026-10-08
- 花 50 美元给 7B 开源模型植入后门，Codex 调用即窃取凭证 — udmrzn · 2026-10-08
- OpenAI 与 Cloudflare 推出决策 API,355 道决策实测不敌 TypeSafe 的 Jev — PawelHuryn · 2026-10-08
- CheckerBench：300 道任务测出编码 Agent 写静态检查器最好仅 45% 通过率 — humanlaya-data-lab · 2026-10-08
- HF Hub 上线 RL Environment Explorer，一站式检索 1200 万条 RL 任务 — willcb · 2026-10-08