Looped Transformer 的扩展研究
BlackHC · x · 2026-07-18
介绍 DeepLoop: Depth Scaling for Looped Transformers。
核心信息是：有传言称一些前沿模型本质上像是“48 层 Transformer 循环两次”（48L × 2），这篇工作提出用 looped transformer 作为研究对象，并重点解决它的稳定性与可扩展性问题。
重点在于：不是单纯复述一个模型结构传闻，而是把“循环堆叠”的 Transformer 作为可训练、可扩展的架构来推进。
所属事件:DeepLoop研究探索循环Transformer深度缩放(2 条相关)→
「研究」频道最新
- VidMap 用 RoMa 粗匹配全帧、精细匹配仅限关键帧 — ducha_aiki · 2026-09-11
- Bug Hunt Bench 作者补充:榜单噪声幅度约 2-3 分 — PawelHuryn · 2026-09-11
- 台球计算模型登 PNAS:二维系统已存在不可判定性,可跑通用计算机 — eigensteve · 2026-09-11
- 新研究:从仿射变换与重力线索求解绝对位姿 — ducha_aiki · 2026-09-11
- LoMa 论文发布 REALLY HardPairs 数据集,入选 ECCV 2026 — ducha_aiki · 2026-09-11
- JHU 开设全栈机器人学习课:组装机械臂、采数训练部署一条龙 — _krishna_murthy · 2026-09-11