研究提出离散扩散视角的循环 Transformer,绕过递归反传
SkyLi0n · x · 2026-09-03
有研究从离散扩散的视角推导出「循环 Transformer（recurrent transformer）」算法，由此绕过对递归操作做反向传播的难题。SkyLi0n 评述称，扩散语言模型与循环 Transformer 实为测试时扩展（test-time scaling）的两面，且二者可以结合。该工作把两类热门架构统一到同一理论框架下，给出了新的算法构造思路。
「研究」频道最新
- 统计物理视角解析多智能体 LLM 系统如何涌现共识 — cephaloform · 2026-09-03
- 想懂 looped transformers 热潮，先读这篇 Latent Reasoning 综述 — burny_tech · 2026-09-03
- FrontierSWE v2 发布：超长时程基准拉开模型差距，Claude 领跑 — brianryhuang · 2026-09-03
- 设计前沿模型难题必须防 verifier 作弊，作者分享实测经验 — nrehiew_ · 2026-09-03
- Bergemann 等提出机制设计框架,形式化分析 AI 对齐与控制 — daveholtz · 2026-09-03
- 观点交锋:Transformer 是采样器不是运行时,残差流装不下结构化计算 — gerardsans · 2026-09-03