课程讲义详解 R-GCN 475 万参数账单与 14.7 倍压缩技巧
JeremyCMorgan · x · 2026-11-06
一份异构图神经网络课程讲义（Week 10），核心内容：
- R-GCN 参数爆炸：逐关系加权的关系图卷积网络（R-GCN）在关系类型多时参数量激增，讲义手工推导了一个 475 万参数的实例。
- 两种修复方案：base 分解与块对角分解，其中 basis trick 可将参数压缩约 14.7 倍，讲义给出精确参数计数。
- 注意力式异构模型：覆盖 HAN 的 metapath 机制与 HGT 的类型化注意力，并讨论如何按 schema 在两者间选择。
- 诚实对比实验：用 R-GCN 编码器 + DistMult 解码器组装知识图谱补全模型，与 Week 4 的浅层嵌入（同解码器、同评测）对比，给出实测裁决。
- 还包括将关系数据库 schema 映射为异构图的方法。
适合在选定 GNN 架构前先算清参数账的读者。
「研究」频道最新
- 斯坦福2.5小时讲座端到端讲透 ChatGPT/Claude 构建原理 — MaxLi_Columbia · 2026-11-06
- Anthropic 工程师:数千万行代码的形式化验证已可行 — morqon · 2026-11-06
- Hugging Face 发布 FinePhrase 讲义：486B token 合成预训练数据集，网页改写 90 种 — NielsRogge · 2026-11-06
- Toby Ord 结论：跳变加更高斜率的混合假设比纯斜率拟合好得多 — tobyordoxford · 2026-11-06
- SynthFaces:扩散+流匹配合成均衡大规模人脸数据集 — Sergey Karpukhin · 2026-11-06
- Stable AI 提出 DPDM:冻结大模型加共享预测器提升 Agent 决策 — stable-ai · 2026-11-06