12步手算图卷积网络：GCN其实是Transformer的表亲
ProfTomYeh · x · 2026-09-13
ProfTomYeh 用一张五节点图手工演算了一个完整的两层 GCN 加分类器，每一步矩阵运算都亲自填算：
- 前半层：邻接矩阵加自环（A+I）→ 对节点嵌入做权重/偏置+ReLU 生成消息 → 用邻接矩阵做消息汇聚（pooling）。
- 后半层：重复一层 GCN 后接全连接层、线性层和 Sigmoid，最终对 A–E 五个节点逐一定类（如 A: 0、B/C/D: 1、E: 0.5）。
- 核心类比：GCN 层 = 「邻接矩阵汇聚」+「MLP 变换」；Transformer 层结构相同，只是把固定的邻接矩阵换成由 Q/K/V 计算出的注意力矩阵——前者注意力被图结构固定，后者动态计算。作者称 GCN 是「Transformer 的小表亲」。
「研究」频道最新
- 陶哲轩新论文：AI 时代数学的稀缺资源从找证明转向理解证明 — NandoDF · 2026-09-13
- Raji 呼吁为前沿 AI 审计生态重写「谁审计审计者」 — rajiinio · 2026-09-13
- 前沿 AI 监督缺方法不只缺机构,学者征集协作方向 — timrudner · 2026-09-13
- NVIDIA 官方拆解 Nemotron 后训练全流程，工具链全部开源 — NVIDIA Developer · 2026-09-13
- 学者设 750 欧代码悬赏,GPT 上线后每天收到多条 bug 报告 — Singularitarian · 2026-09-13
- 递归循环 Transformer RLT 开源：潜空间推理实现无限深度 — inductionheads · 2026-09-13