Astra 或用 Recirculation 技术，有效参数提升 1.38 倍
scaling01 · x · 2026-09-02
讨论 Astra 可能采用的“再循环”技术。该技术类似于循环深度，虽然预训练计算和解码延迟不变，但推理 FLOPs 和预填充延迟会增加。另一项循环深度论文发现，运行相同的循环块两次可提供约 1.38 倍的有效参数乘数。这意味着 OpenAI 可能训练一个 10T 的循环深度模型，其性能相当于 13.8T 的普通模型。
所属事件:OpenAI Astra 被曝循环深度潜空间推理，安全圈忧 CoT 监控失效(96 条相关)→
「模型」频道最新
- OpenAI 测试列表惊现 aurora 红/绿/蓝三个 alpha 模型检查点 — ChrisGPT · 2026-10-18
- 波兰开发者业余两周造决策模型,开源榜第一超众多商业产品 — lukaszkaiser · 2026-10-18
- DeepSeek V4.1 Flash 智能体分暴涨,长程任务提升但约束遵循下滑 — teortaxesTex · 2026-10-18
- 科学计算大佬实测：日常维护任务开源模型反超，但深挖代码缺陷仍靠 Opus — ChrisRackauckas · 2026-10-18
- DeepSeek V4.1 Flash 冲进 BuildingBench 前五,成本仅 Sonnet 的 1/15 — Lianhuiq · 2026-10-18
- MOSS SFT、Flux 3 Klein 与 SD 3.0 同提示词横评,SD3 老底被揭 — ZootAllures9111 · 2026-10-18