社区开源 Claude Mythos 理论复现架构
Shruti_0810 · x · 2026-08-27
社区开发者开源了名为 OpenMythos 的项目,这是一个对 Anthropic Claude Mythos 架构的理论复现实现。该项目采用 Recurrent-Depth Transformer 架构,核心特性包括:
- 循环推理模块:支持递归推理能力。
- 可切换注意力机制:支持 MLA (Multi-head Latent Attention) 和 GQA (Grouped Query Attention)。
- 稀疏 MoE 前馈层:实现了混合专家模型的稀疏化。
- 可配置推理深度:允许调整推理过程的深度。
- PyTorch 实现:完全基于 PyTorch 框架构建。
作者强调这并非 Anthropic 官方项目,而是基于公开研究和推测的社区驱动实现,对于理解此类前沿架构的底层运作原理具有重要参考价值。
所属事件:开源项目 OpenMythos 理论复现 Claude 架构(3 条相关)→
「模型」频道最新
- HuggingFace CEO 确认:microduck 模型已启动训练 — huggingface · 2026-08-27
- Qwen3.8-Flash-Next 本地实测:128GB Mac 首个破 94% 的模型 — tolitius · 2026-08-27
- OpenAI 推 Codex 限额备用金:超额可用 5.6 Luna — kimmonismus · 2026-08-27
- 开源模型反超:Kimi/GLM/Qwen 评分超 GPT-5.5 — solyarisoftware · 2026-08-27
- Sora 全面下线账号:用户被登出且无法重新登录 — Shrapnel_FEH · 2026-08-27
- Anthropic Opus 5 被吐槽无法理解“简短” — PtrPomorski · 2026-08-27