Intern-S2-Mobius：解耦知识与推理的新架构
pmttyji · reddit · 2026-08-17
论文提出了 Mobius-v0 架构，核心是将知识存储（通过 FFN）与推理过程（通过 Self-Attn）解耦。
- 机制：Reasoners 迭代查询共享的 Memory 获取知识向量，利用隐藏状态作为载体进行传输。
- 优势：实现了更好的知识压缩和推理效率。
- 实验结果：
- 从头训练的 7B 模型在仅需基线 62.6% 训练数据的情况下达到相似下游分数。
- 基于 Qwen3.5-35B 继续预训练的 Intern-S2-Mobius，在保持相似性能的同时实现了近 4 倍的端到端推理加速。
所属事件:上海AI Lab 推出 Intern-S2-Mobius，解耦知识与推理(3 条相关)→
「模型」频道最新
- 用户评价：Gemini 3.7 Flash 相比 3.6 进步明显 — gabriberton · 2026-08-17
- Qwen3.8-27B 本地目标检测实测：多模型交叉验证 — MaziyarPanahi · 2026-08-17
- DFM Mimir v1：1B参数开源模型，丹麦语SOTA — SDU-Denmark · 2026-08-17
- Ling-3.0-flash 运行时路径：单卡 DGX 跑通 — Kanu-animallover · 2026-08-17
- 系统提示词才是杠杆：把啰嗦的 Opus 5 调成资深工程师 — IndyDevDan · 2026-08-17
- Mimir：1.7B 维京模型宣称击败 Qwen 与 Gemma — ZookeepergameCool173 · 2026-08-17