Yandex 开源 80B MoE 模型 Alice:3B 激活、256K 上下文

teortaxesTex · x · 2026-09-22

Yandex 发布 Alice AI Foundation 80B-A3B Base 并开放权重:总参数 80B,每 token 仅激活 3B,支持 256K 上下文,采用 Apache 2.0 许可,已在 Hugging Face 上线。

评论者 teortaxesTex 指出,在无法合法购买算力、近五年大量 AI 研究者流失的情况下做出一个现代小 MoE(用上 Muon、Kimi Delta 式架构、AttnRes、Qwen3 Next 形态,约 18T tokens 训练)相当不易,估算 Yandex 作为 AGI 实验室落后头部约 1.5 年,水平接近 Mistral。

所属事件:Yandex 开源 80B MoE 基座模型 Alice(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →