kalomaze:爱加 cross attention 的人往往是在逃避数据设计
kalomaze · x · 2026-11-17
独立研究员 kalomaze 发推吐槽:cross attention 是那种「在架构选择上迭代的功夫远多于在数据设计上下功夫」的人才会往架构里加的东西。言下之意是数据质量与设计比架构花样更值得投入,这条观点引发了不少对架构 vs 数据权重之争的共鸣。
「研究」频道最新
- 新论文提出「心理导航」是人类认知的默认计算模式 — abenitezburraco · 2026-11-17
- 腾讯 DSpine 推测解码上线:27B 模型提速至 4.5 倍、90-125 tok/s — pmttyji · 2026-11-17
- Judea Pearl 点赞一页图解:结构因果模型如何用四步把因果变成数学 — yudapearl · 2026-11-17
- 四篇校准论文综述:模型置信度不宜用于放行 Agent 高危操作 — Xjjjjyn · 2026-11-17
- ICLR 2027 审稿怪圈:做了新实验被批「改太多」,不做被批「AI slop」 — SimpleObvious4048 · 2026-11-17
- IIT 马德拉斯 CeRAI 发布会话式 AI 评测工具:7 维度 48 项核心指标 — ravi_iitm · 2026-11-17