Intern-S2-Mobius：解耦知识与推理的新架构
pmttyji · reddit · 2026-08-17
论文提出了 Mobius-v0 架构，核心是将知识存储（通过 FFN）与推理过程（通过 Self-Attn）解耦。
- 机制：Reasoners 迭代查询共享的 Memory 获取知识向量，利用隐藏状态作为载体进行传输。
- 优势：实现了更好的知识压缩和推理效率。
- 实验结果：
- 从头训练的 7B 模型在仅需基线 62.6% 训练数据的情况下达到相似下游分数。
- 基于 Qwen3.5-35B 继续预训练的 Intern-S2-Mobius，在保持相似性能的同时实现了近 4 倍的端到端推理加速。
所属事件:上海AI Lab 推出 Intern-S2-Mobius，解耦知识与推理(3 条相关)→
「模型」频道最新
- Meta 开源编程模型 Muse Spark Open 上线 Modal，主攻长程智能体任务 — AAAzzam · 2026-10-16
- 谷歌发布 Gemini 4 Argon 旗舰模型，附 10 个官方演示 — Saboo_Shubham_ · 2026-10-16
- RL 从业者:手上近万个任务仍能让所有前沿编码模型翻车 — max_paperclips · 2026-10-16
- 自建物种识别 eval 一年后被超越：Gemini 3.5 Flash 得 67% 胜过作者本人 — johnowhitaker · 2026-10-16
- 研究者吐槽 Claude 总说教,批评科技公司观点会被反驳 — BlancheMinerva · 2026-10-16
- 图表显示 Meta 已 492 天无开源模型发布，Llama 4 成绝唱 — demian_ai · 2026-10-16