无需训练即可编辑大模型事实,COLM 论文提出闭式 MLP 写入法

HazyResearch · x · 2026-07-23

传统上,语言模型的事实知识是通过训练存储在 MLP 层中的。这项被 COLM 2026 接收的最新论文提出了一种全新思路:无需经过任何训练过程,就能直接将事实写入 Transformer 架构中。

研究团队为此提供了一套闭式解(closed-form)配方,能够直接构造出具备事实存储能力且适配 Transformer 的 MLP 模块。该研究由 Hazy Research 等团队合作完成。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →