无需训练即可注入知识:Hazy Research 提出 MLP 初始化新玩法
andrew_n_carr · x · 2026-07-23
Hazy Research 团队展示了一项新研究:可以通过特定的初始化方法,直接将知识预装进多层感知机(MLP)中,完全不需要经过训练。在此基础上,Transformer 模型能够直接查询并调用这些内置知识。这种思路为持续学习和提升模型知识注入效率提供了一种极具潜力的新范式。
所属事件:HazyResearch 提出无需训练直接写入大模型知识的新方法(5 条相关)→
「研究」频道最新
- TRL 上线 Score Centering:直击 RL 训练不稳定的根因 — lvwerra · 2026-10-27
- Latent-Foresight:让世界模型学着预判自己的未来 — abursuc · 2026-10-27
- 英国 AISI 发文:现有手段不足以防生物 AI 工具被滥用 — davidmanheim · 2026-10-27
- CMU 发布 XYBench:LLM 只答字面问题,常无视用户真实需求 — valentina__py · 2026-10-27
- arXiv 前主席提示:投稿主分类选错,论文几乎必被搁置 — tdietterich · 2026-10-27
- arXiv 积压超 4000 篇论文被搁置,版主致歉并给出避坑建议 — tdietterich · 2026-10-27