社区开源 Claude Mythos 理论复现架构
Shruti_0810 · x · 2026-08-27
社区开发者开源了名为 OpenMythos 的项目,这是一个对 Anthropic Claude Mythos 架构的理论复现实现。该项目采用 Recurrent-Depth Transformer 架构,核心特性包括:
- 循环推理模块:支持递归推理能力。
- 可切换注意力机制:支持 MLA (Multi-head Latent Attention) 和 GQA (Grouped Query Attention)。
- 稀疏 MoE 前馈层:实现了混合专家模型的稀疏化。
- 可配置推理深度:允许调整推理过程的深度。
- PyTorch 实现:完全基于 PyTorch 框架构建。
作者强调这并非 Anthropic 官方项目,而是基于公开研究和推测的社区驱动实现,对于理解此类前沿架构的底层运作原理具有重要参考价值。
所属事件:开源项目 OpenMythos 理论复现 Claude 架构(3 条相关)→
「模型」频道最新
- Nat Lambert 爆料:Nvidia、HuggingFace 预告近期密集发布 — natolambert · 2026-10-15
- 马斯克转发用户实测:Grok Bot 不比 Codex 强但更顺手 — elonmusk · 2026-10-15
- 爆料称 Anthropic 新模型将发布,疑似已挖出十余个 Chrome 高危漏洞 — matthew_d_green · 2026-10-15
- StartLux-Decision 发布:RL 训练的校准决策模型,27B 得分 72.8 — startlux-models · 2026-10-15
- Meta Muse Code 用量遭吐槽:5 小时额度仅剩 21% — ThomasScialom · 2026-10-15
- Claude Code 报错截图现「Fable 5.1」与「Opus 5」字样,疑为新模型露出 — adonis_singh · 2026-10-15