Aleph Alpha 开源欧洲模型 Kolibri:78B 参数仅激活 3.46B,Apache 2.0
josh_wills · x · 2026-10-04
Aleph Alpha 发布并开源了欧洲自研模型 Kolibri:总参数 78B、激活参数仅 3.46B(稀疏 MoE 结构),支持最高 1M token 上下文,权重以 Apache 2.0 许可开放,可跑在自己的硬件上。此外,其发布报告披露了预训练数据所用的分类器细节:使用一个冻结的 Luxical 模型做数据过滤,效果竟然优于 fasttext——令人意外,因为两者结构非常相似。
所属事件:德国 Aleph Alpha 开源 Kolibri-1：78B 仅激活 3.46B(14 条相关)→
「模型」频道最新
- Reflection AI 发布首个开源模型 Beam，估值 250 亿美元 — WebAssemblyMan · 2026-10-06
- 曝 OpenAI 拟合并 Chat 与 Codex 额度，基础聊天限额引担忧 — Iwantthegreatest · 2026-10-06
- 微软页面被曝证实 GPT-6 系列采用 Looped Transformer — teortaxesTex · 2026-10-06
- 亚马逊提出ALoDLM：按token难度自适应分配循环深度 — amazon · 2026-10-06
- IFM研究循环语言模型定点特性：KV缓存缩小3倍不掉分 — IFM · 2026-10-06
- 澳洲开源决策模型 Matilda Jev：单卡推理仅 56.8ms，不做文本生成 — Med1_Ai · 2026-10-06