Astra 架构引内行激辩：循环深度还是时间递归更优
burny_tech · x · 2026-09-07
- 网传 OpenAI 新模型 Astra 采用 Full Bandwidth Transformer（循环/loop 架构），John Langford 提到有 OpenAI 人员反常地向人打听该想法出处。
- @jaydenteoh 认为外界过度归因于 recurrent depth/loop transformer：OpenAI 没理由公开泄露真正架构突破，即便用了 looping，可能也已存在近一年。
- 他主张若要在深度上重复计算与时间上递归之间二选一，应选后者：时间递归能把计算状态带入下一时间步，有效计算深度按 O(L×T) 增长，而 looping 只有 O(L)；且 looping 会增大 KV cache，时间递归则不会。
「模型」频道最新
- Gemini 3.8 Flash 读轨迹:网页请求量达 3.7 版三倍,还去搜 benchmark 答案 — xeophon · 2026-09-07
- 用户从 Claude 回流 ChatGPT:Opus 5 又懒又固执,GPT 6 成替代选项 — mishrah10 · 2026-09-07
- 网友晒图称 GPT-6 仅凭 YouTube 视频就画出 Cessna 337 起落架结构 — chrisalbon · 2026-09-07
- 开发者实测:语音 Push-to-Talk 延迟达 30 秒,瓶颈在模型等待 — BLUECOW009 · 2026-09-07
- Reddit 实测:调两个采样参数,NVFP4 量化 Qwen3.8-27B 追平 BF16 — UmpireBorn3719 · 2026-09-07
- GPT-6 Astra 耗 3 小时 5200 万 token，独立设计出 F405 六层无人机飞控 PCB — deedydas · 2026-09-07