Unifying Graph Neural Networks Through a Common Layer Equation
Sai Karthik Navuluru, Siddhartha Shankar Das, Bo Ni, Hongjie Chen, Yu Wang, Baris Coskunuzer, Nesreen K. Ahmed, Franck Dernoncourt, Mahantesh Halappanavar, Tyler Derr, Ryan A. Rossi, Lakshman Tamil
cs.LG
2026-08-17
七个组件的统一层方程覆盖空间/注意力/谱/图 Transformer/异构/高阶/几何七族;GCN 到 GAT 的差别被压缩成可查表的槽位差异。
GNN 十年攒下几百种架构,每种都有自己的论文、自己的符号、自己的动机叙事。后果比「读起来累」更实在:同一机制在不同家族里换名字,名字相近的方法改的却是计算的不同部分,于是跨家族比较经常把支撑集、传输值、混合、更新混为一谈;给某一家族证的结论,换一家是否成立看不出来。已有的统一框架各有盲区:消息传递范式不分「标量支撑」和「传输内容」,几何深度学习优先讲对称性,编码器-解码器分类学优先讲任务。缺的是一张层级的组件清单,能把七个大家族的公式摆进同一行比对。
核心是一个七组件的层方程:(更新域 X, 通道集 K, 传播库 {Pk}, 消息映射 {Ψk}, 混合算子 ⊞, ego/残差映射 Bℓ, 更新映射 ϕℓ)。中心分解是「信息去哪」(Pk,一组算子,决定沿图的哪些边、以什么标量权重移动)与「送什么」(Ψk,决定移动的向量或矩阵值内容)的分离。读法是一条流水线:每个通道上 Ψk 构造待传值,Pk 决定它的去向和权重,⊞ 合并各通道,Bℓ 带自环或残差,ϕℓ 产出新状态。
GCN 在这套语言里就是单通道、P1 取对称归一化邻接矩阵、Ψ1 取 H·W、无 ego 项。GAT 与 GCN 的全部形式差别被定位成「固定标量权重 vs 状态依赖标量权重」一个槽位;GraphSAGE 与 GIN 的差别在算子归一化和 ego 处理。
三个设计决定撑住「统一不等于空泛」:槽位纪律按输出角色给每个初等操作定死位置(标量边权进 Pk,向量消息进 Ψk),等价改写不改变槽位归属;覆盖边界显式声明(通道取线性值形式或置换不变聚合的成对消息);对 GCN、GraphSAGE、GAT、GIN 给逐步归约,可逐行核对。函数值填充让同一方程从局部消息传递延伸到注意力、谱滤波、全局通信、关系通道、高阶域和几何消息。配套两条可证结论:端点局部消息加节点局部更新下,Pk 的支撑集界定单层依赖,单层全局混合需要完整的有效算子行;线性可加 regime 里通道数不可辨识,最小 Kronecker 分离秩才是层算子的不变量。
这是框架论文,「结果」是覆盖与组织力本身:200 多种编目架构(引自 400+ 文献)归入七个非互斥家族,每个家族的主变异轴被指认:空间、注意力、谱、图 Transformer 四族主要改 Pk,异构族改通道集 K,高阶族改更新域 X,几何族改 Ψk 与 ϕℓ。21 种代表方法的七组件对照表让「谁和谁差在哪」变成查表操作。17 条结果把组件交互连到 oversmoothing、oversquashing、异配性、表达力和置换对称性,16 条证明在附录。第 4 节演示用组件清单生成结构合法的新架构,暴露编目里空着的组件组合。
作者同样明确地说了不承诺什么:选架构仍是经验逆问题,「图和任务的可测属性映射到经过验证的组件填充」这个问题没有被解决;文献里的基准证据只被描述性地翻译成组件语言,因果归因留给受控实验。
对做图学习的人,这张表的实际价值是当翻译器用:读新论文时先问它动了哪个槽位,很多「新架构」立刻现形为已知槽位组合;给已有结论做跨家族迁移时,组件化表述能显式检查前提是否还成立。两条理论结果有独立价值:算子支撑界定单层依赖给了「层数换感受野」论证的精确形式;通道数不可辨识提醒多通道设计里有表征层面的冗余,比较架构时该看 Kronecker 秩而不是头数。对做架构搜索的人,固定槽位纪律直接给出一个结构合法的搜索空间定义。
覆盖边界之外的东西不少:训练管线、解码器、时序图、预训练目标都不在方程内;递归与不动点 GNN 只被顺带归入 MPNN。统一框架的价值高度依赖使用者接受其槽位纪律,「同一计算可以合法分配给不同组件」的等价改写问题靠纪律而非数学解决,不认这套纪律的读者可能得到不同归类。200+ 架构的组件赋值由作者按原论文逐条给出,粒度声明为「报告粒度」,逐条可查但没有第三方核对。作为纯框架论文,它不提供任何新基准数字,「生成的架构更好」没有实验支撑,连作者自己都把逆问题列为 open。七组件的表述成本不低,一次性使用者(只想跑个 GCN)从中得不到直接收益。