传闻前沿模型是 48 层循环两次，DeepLoop 论文探索深度扩展
dotey · x · 2026-09-06
- yifanzhang 引述传闻称部分前沿模型本质上是 48 层 transformer 循环两次（48L × 2）的 looped 架构，中文圈甚至猜测 OpenAI 是 2 次循环、字节是 4 次循环。
- 配套的 DeepLoop（Depth Scaling for Looped Transformers）论文提出让循环 transformer 稳定且可扩展的深度扩展方法。
- 该架构用少量参数通过循环复用获得更深的有效深度，若传闻属实将改变对前沿模型参数效率的认知（传闻未经证实）。
「模型」频道最新
- 扩散语言模型的偏见排名随采样配置改变,去偏后仍不稳定 — Bollegala · 2026-10-23
- 月付 20 美元同时跑 100 个 DeepSeek v4.1 flash agent — zack_overflow · 2026-10-23
- 从业者感叹开源音频模型连表征类质量都普遍拉胯 — gowthami_s · 2026-10-23
- 网友自曝用 Claude Opus 5.5 生成视频，泄露未发布模型名 — jwt0625 · 2026-10-23
- 安全圈激辩:OpenAI 限制安全研究员访问 Astra 是否失策 — cyb3rops · 2026-10-23
- Mistral Large 4 曝光:1T 参数、激活 49B,月底开源 — mervenoyann · 2026-10-23