研究者提出 Latent Lattice 架构,给 Transformer 加横向计算轴
burny_tech · x · 2026-11-19
@ShivamDuggal4 提出 Latent Lattice Language Models(LLLMs):现有语言模型把每个 token 沿单一残差流逐层处理(读取/写入记忆、逐层施加 MLP,最后解码下一 token),该工作尝试把这条垂直流扩展出一个横向计算轴——Latents 的 Lattice(点阵),探索能否放大这种单流计算的规模。作者将其定位为 RNN 与 Transformer 思路的结合,相关细节以线程形式展开。@ellisbrown 转发并标注「👀」,显示圈内关注。
所属事件:MIT 与 Adobe 提出 Latent Lattice 语言模型新架构(3 条相关)→
「研究」频道最新
- CAR T 疗法治疗多发性硬化:5 例患者显示免疫重启效果 — EricTopol · 2026-11-20
- 哈佛团队新论文:简单参数平均 SFA 击败 replay,省 36% 训练时间 — jefrankle · 2026-11-20
- Brynjolfsson 团队推 GDP-B 新指标:补上 GDP 测不出的数字福利 — erikbryn · 2026-11-20
- DNeo 扩散草稿模型让 LLM 推理最快提速 30% — Scobleizer · 2026-11-20
- 约翰霍普金斯开源癌症模型实测:34 例 CT 全部检出肿瘤 — MaziyarPanahi · 2026-11-20
- Agent 基准测试两难:要真实就得联网,要可复现就别联网 — davidmanheim · 2026-11-20