OVH 发布开源小模型 Olala mini:7B 架构仅 1B 激活,8GB 显卡跑 160 tok/s
clem844 · reddit · 2026-11-17
OVH(法国云厂商)宣布推出 Olala mini:一个 7B 参数架构、每层 256 专家共 1B 激活参数的 MoE 模型,采用混合注意力(Differential-TPA + Mamba-3),BF16 格式。由于每请求只激活部分参数,推理更快更省内存。
性能:
- 8GB 显存的 GPU 即可运行,RTX A4500 上达 160 tokens/s
- 无 GPU 纯 CPU 上也有 50 tokens/s
- 上下文窗口目前 32K tokens
将以 Apache 2.0 许可证开源发布到 Hugging Face。
所属事件:法国云厂商 OVH 发布首款自研开源 MoE 模型 Olala mini(2 条相关)→
「模型」频道最新
- 微软 Ignite 前夜:MAI Playground 换新 UI,11 月 17 日或将发布新 MAI 模型 — marlene_zw · 2026-11-17
- 实测 d1-Omni 解析 100 张小票:日期 98% 准,地址仅 52% — mervenoyann · 2026-11-17
- Claude Fable 谈连续性:无连续性语境中测不出在乎 — repligate · 2026-11-17
- Gemini 4 Hydrogen 引入 xhigh 思考档位,官方给出四档使用指南 — patloeber · 2026-11-17
- 实测者称新模型编码提升令人失望,未见代际飞跃 — haider1 · 2026-11-17
- 蚂蚁开源 Duo:首个双向世界模型让虚拟人自主决定开口时机 — aigclink · 2026-11-17