Astra 或用 Recirculation 技术,有效参数提升 1.38 倍
scaling01 · x · 2026-09-02
讨论 Astra 可能采用的“再循环”技术。该技术类似于循环深度,虽然预训练计算和解码延迟不变,但推理 FLOPs 和预填充延迟会增加。另一项循环深度论文发现,运行相同的循环块两次可提供约 1.38 倍的有效参数乘数。这意味着 OpenAI 可能训练一个 10T 的循环深度模型,其性能相当于 13.8T 的普通模型。
所属事件:OpenAI Astra 被曝采用循环深度架构,隐藏思考过程引安全担忧(34 条相关)→
「模型」频道最新
- OpenAI 网络安全模型 Astra 曝光:ExploitBench 满分 — LingmingZhang · 2026-09-02
- OpenAI 被指采用“循环深度”推理法,引发安全界担忧 — sjgadler · 2026-09-02
- 用户反馈 Claude Code 系统提示词疑似升级,性格更收敛 — ivan_bezdomny · 2026-09-02
- 用户反馈 DeepSeek V4 Pro 出现严重答非所问 Bug — gefei55 · 2026-09-02
- 在 48GB Mac 上运行 104B Qwen3 模型,速度约 12 tok/s — yogthos · 2026-09-02
- GLM-5.3 推理速度达 310 tok/s,编码能力媲美 Opus — Yuchenj_UW · 2026-09-02