14.8k 星开源项目重构「Claude Mythos」架构
tom_doerr · x · 2026-08-27
GitHub 项目 OpenMythos(kyegomez)声称基于公开研究文献,从第一性原理对 Anthropic 的「Claude Mythos」架构做理论性重建,已获 14.8k 星。
实现采用 Recurrent-Depth Transformer(RDT)三段式结构:Prelude(普通 transformer 块)、可循环最多 maxloopiters 次的 Recurrent Block、以及收尾的 Coda。注意力可在 MLA 与 GQA 间切换,前馈层用稀疏 MoE(混合路由与共享专家),适合探索计算自适应、深度可变的推理。项目支持 pip 安装,可选装 Flash Attention 2。作者声明该项目与 Anthropic 无任何关联。
「研究」频道最新
- Gaussian 技术实现 Clug 角色面部表情动画 — repligate · 2026-08-27
- Lightwheel 联合 Hugging Face 发布 10 万小时具身人类数据集 — vanstriendaniel · 2026-08-27
- PyTorch 生态新增 Perforated 等 10 个项目 — zhyncs42 · 2026-08-27
- V-Rubrics:基于细粒度标准的视觉忠实度强化学习 — liuziwei7 · 2026-08-27
- FlashKDA 参考实现默认下限已设为 -5 — YouJiacheng · 2026-08-27
- 可解释性研究暂缺数学级突破,百年来或难解心智之谜 — ericjmichaud_ · 2026-08-27