The Information 曝 OpenAI Astra 用循环深度架构,rasbt 发文技术拆解
OriolVinyalsML · x · 2026-09-03
The Information 报道称 OpenAI 新模型 Astra 采用「循环深度/循环 transformer」(recurrent depth or looped transformer)架构,引发社区热议。
Sebastian Raschka(rasbt)发长文对这一说法进行技术拆解和去魅,介绍循环/循环化 transformer 的工作原理与历史脉络,并指出两个月前他已分享过相关架构分析。
DeepMind 研究副总裁 Oriol Vinyals 在回复中力挺:「Universal Transformer 万岁」,并 @ 了该论文作者 Mostafa Dehghani——暗指这一「新」思路与 2018 年的 Universal Transformer 一脉相承。
所属事件:OpenAI Astra 循环Transformer架构传闻引热议(3 条相关)→
「模型」频道最新
- Meta Muse Spark 1.3 免费上架 OpenCode — ramagetime · 2026-09-03
- 爆料称 OpenAI 隐藏大模型 Bel 年底登场，Astra 仍在 Agent-1 阶段 — haider1 · 2026-09-03
- Reddit 用户实测 Gemini 3.8 Flash:花更多功夫,结果却差不多 — Correct_Tomato1871 · 2026-09-03
- 2x3090 跑 Qwen3.8-Flash-Next:expert cache 把解码从 17 提到 25-29 t/s — Extension-Bid-639 · 2026-09-03
- IBM 发布 Granite 4.2 开源模型:可本地运行、易微调、主打 Agent 场景 — krvarshney · 2026-09-03
- Meta MuseSpark1.3 发布:与Fable5打平,Token消耗降25% — 量子位 · 2026-09-03