POSTECH 论文:权重空间编程弃用 Transformer,参数省 680 倍、推理快 17 倍

CatAstro_Piyush · x · 2026-11-17

POSTECH 的 Hyunjong Ok 与 Jaeho Lee 提出权重空间编程不该默认用 Transformer:当 LLM 直接写网络权重(无梯度训练)时,用基于联想记忆的 0/1 事实表加规则架构,每行存一个事实,远比稠密权重高效。在 ARC 基准上,同等精度下参数比同一 LLM 写出的最佳 Transformer 少约 680-1800 倍;配合为表结构定制的内存架构,GPU 推理最高快 17 倍。论文与代码已公开。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →