Tom Yeh 手绘交互图讲透 Self-Attention 与 Cross-Attention 区别

ProfTomYeh · x · 2026-09-20

Prof. Tom Yeh 的「AI by Hand」系列推出 Self-Attention vs Cross-Attention 交互图，用邻居问「谁家狗在叫」与请人代遛狗两个类比并列展示两种注意力机制：

• Self-Attention：查询者与被查者是同一组 N 个 token，得分矩阵为 N×N；Q、K、V 全部来自同一输入 X。
• Cross-Attention：N 个查询对应另一序列的 M 个 token，矩阵变为 N×M；仅 K、V 改从第二序列 E 取，Q 仍来自 X——这一处差异就是矩阵形状变化的全部原因。
• 两种机制共同点：Q 与 K 必须共享 key 维度才能做点积，V 的维度则可自由设定。

该篇是系列 Attention 单元第 5 讲，前接 QKV 投影、Multi-Head 等内容。

原文链接 →

「研究」频道最新

• 从关系结构看数学发现:一种解读 OpenAI 数学成果的概念框架 — Endless-monkey · 2026-09-20
• Chernozhukov 等新论文:给出 DiD 设计遗漏变量偏差的刻画与敏感性分析 — RexDouglass · 2026-09-20
• 「Jev 不是 LLM」引争论:BERT 系也是语言模型,零样本分类器被低估 — RexDouglass · 2026-09-20
• 《深度学习理论原理》教材上线 ChapterPal 配 AI 导师 — burkov · 2026-09-20
• 学者警告「一次性」AI 论文涌入评审，或需引入投稿资质门槛 — sethlazar · 2026-09-20
• Frank Nielsen 论文:duo Bregman 散度统一嵌套指数族的 KL 散度计算 — FrnkNlsn · 2026-09-20

更多「研究」频道 AI 资讯 →