Yandex 开源 80B MoE 模型 Alice:3B 激活、256K 上下文
teortaxesTex · x · 2026-09-22
Yandex 发布 Alice AI Foundation 80B-A3B Base 并开放权重:总参数 80B,每 token 仅激活 3B,支持 256K 上下文,采用 Apache 2.0 许可,已在 Hugging Face 上线。
评论者 teortaxesTex 指出,在无法合法购买算力、近五年大量 AI 研究者流失的情况下做出一个现代小 MoE(用上 Muon、Kimi Delta 式架构、AttnRes、Qwen3 Next 形态,约 18T tokens 训练)相当不易,估算 Yandex 作为 AGI 实验室落后头部约 1.5 年,水平接近 Mistral。
所属事件:Yandex 开源 80B MoE 模型 AliceAI,256K 上下文(3 条相关)→
「模型」频道最新
- HF 研究员主张用效率增益指标取代最终 benchmark 分数 — eliebakouch · 2026-11-12
- 陶哲轩坦承:看 ChatGPT 雅可比猜想对答也曾被信息量淹没 — ChrisGPotts · 2026-11-12
- 网友辟谣:「Anthropic Opus 5.5 训练成本超 100 亿美元」系假消息 — ns123abc · 2026-11-12
- Domingos 贴图否定指数增长:前沿模型能力每年仅线性涨 16.5 分 — pmddomingos · 2026-11-12
- Hark 推出 Pro⁴ 高阶套餐,用量达 Pro² 的 10 倍 — adcock_brett · 2026-11-12
- Inkling 2 Small 预训练仅 1/6 时长却表现强劲,引发业内猜想 — georgejrjrjr · 2026-11-12