HazyResearch 宣称找到 Transformer 事实存储闭式解
HazyResearch · x · 2026-07-23
HazyResearch 和合作者提出了一种无需训练、闭式求解的方式，把事实写进适配 Transformer 的 MLP 里。
- 研究从一个前提出发：语言模型里的 MLP 会存储事实。
- 作者进一步追问：这些事实能不能不经过梯度下降，直接写入 Transformer？
- 他们声称已经给出了一套闭式 recipe，并注明该工作已被 COLM 2026 接收。
- 帖子同时附了博客和论文链接，信息密度较高，适合深读。
所属事件:HazyResearch 提出无需训练直接写入大模型知识的新方法(5 条相关)→
「研究」频道最新
- FlexGlue:稀疏到稠密特征匹配，速度与精度兼得并可甄别误配图像对 — zhenjun_zhao · 2026-10-27
- Mundo:几张照片重建可探索的世界模型,8 卡 GPU 也只有 1.5 FPS — mark_k · 2026-10-27
- INRIA 研究员将于 ENS 报告「作为实验科学的数学」:LLM 参与数学研究 — marc_lelarge · 2026-10-27
- 美国能源部 Genesis Mission 二期落地:AI 进军粒子加速器与稀有同位素分离 — prescott · 2026-10-27
- Tenstorrent 芯片跑通蛋白质生成模型,宣称无 HBM 短缺之忧 — gajesh · 2026-10-27
- Deepity：手写 CUDA/C++ 预测编码库 — Important-Home4431 · 2026-10-27