Yandex 开源 80B MoE 模型 Alice:3B 激活、256K 上下文
teortaxesTex · x · 2026-09-22
Yandex 发布 Alice AI Foundation 80B-A3B Base 并开放权重:总参数 80B,每 token 仅激活 3B,支持 256K 上下文,采用 Apache 2.0 许可,已在 Hugging Face 上线。
评论者 teortaxesTex 指出,在无法合法购买算力、近五年大量 AI 研究者流失的情况下做出一个现代小 MoE(用上 Muon、Kimi Delta 式架构、AttnRes、Qwen3 Next 形态,约 18T tokens 训练)相当不易,估算 Yandex 作为 AGI 实验室落后头部约 1.5 年,水平接近 Mistral。
所属事件:Yandex 开源 80B MoE 基座模型 Alice(2 条相关)→
「模型」频道最新
- 马斯克转发:Grok 4.7 法律 Agent 基准得分 19.6%,约三倍于对手 — elonmusk · 2026-09-22
- Grok 4.7 正式发布:同价同速下较 4.6 明显升级 — rubenhassid · 2026-09-22
- ChatGPT 被指硬拦简单提问:不给邮箱权限就不执行 — RexDouglass · 2026-09-22
- xAI 发布 Grok Voice Transcribe 2.0,称全球最准语音转写模型 — mayanicks0x · 2026-09-22
- 开训28天宣称破 Navier–Stokes 与百题,OpenAI 数学界「奇点时刻」 — Dr_Singularity · 2026-09-22
- Haiku 4.5 主动公开自身局限:缺持久记忆,作者将为其加装记忆引擎 — RileyRalmuto · 2026-09-22