爆料称 V4.1 用编码器压缩 KV 疑 copied 自 Astra，可信度存疑
teortaxesTex · x · 2026-10-07
teortaxesTex 讨论开源模型架构同质化：称西方开源实验室多用「无聊胆小」的 GQA+SWA 架构，而中国实验室在设计上更大胆激进，因为发现可扩展架构需要算力，OpenAI 和蚂蚁有能力惩罚模仿者（如 Thinky）。他同时给出一个未经证实的爆料：有 DM 称某模型 V4.1 中「重新引入编码器压缩 KV」的设计 copied 自 Astra——但他自己认为此说法可疑，该方向早有大量先例，并点名 Zyphra 和韩国 Motif 的设计确实原创。
所属事件:网友激辩中国实验室算法进步：自学还是窃取(4 条相关)→
「模型」频道最新
- Sauers_ 观察:Opus 5.5 的技术立场表达比 Fable 5.1 更克制 — Sauers_ · 2026-10-07
- Gemini 4 Pro 传闻四起,博主遍寻不到试用入口 — karminski3 · 2026-10-07
- TypeSafe 发布 Jev 模型，主打「机器原生智能」与决策校准 — samcharrington · 2026-10-07
- 四模型盲测 OpenAI 数学传闻,多方推演若为真意味着什么 — Afinetheorem · 2026-10-07
- Ilya 转发 OpenAI 数学成果:数学家如遭核爆 — daniel_mac8 · 2026-10-07
- 基于 Gemma4 的 26B 决策模型 GEV-26B 登上 HF 热榜 — autotrust · 2026-10-07