OVH 首个自研 LLM 亮相:Olala mini 7B 激活 1B,8GB 显存可跑
jedisct1 · x · 2026-11-17
法国云厂商 OVH 发布其首个 LLM 家族 Olala,首个成员 Olala mini 7A1B 采用全新架构:总参数 7B、每层 256 专家仅激活约 1B,注意力用 Differential-TPA 与 Mamba-3 混合方案,BF16 格式。
由于每次请求只激活模型一小部分,它对硬件要求极低:8GB 显存的 GPU 即可运行,在 RTX A4500 上达 160 tokens/s,纯 CPU 也能跑到 50 tokens/s,上下文窗口目前为 32K tokens。配置图还披露训练成本较 2023 年降低约 20 倍、欧洲搜索引擎 Qwart 已采用等说法。模型将以开源形式(Apache 系许可)上线 Hugging Face。
所属事件:法国云厂商 OVH 发布首款自研开源 MoE 模型 Olala mini(2 条相关)→
「Infra」频道最新
- Hugging Face 员工把 Gemma 3 270M 塞进激光打印机,60 秒吐一个 token — osanseviero · 2026-11-17
- 新推理引擎抛弃旧 GPU:llama.cpp 与混合部署能否续命 — pipecanon · 2026-11-17
- 博主 argue 全面封堵算力反而催生对手盲区与加速 — TinfoilTricorn · 2026-11-17
- LLM 后训练中生成与训练并行致数据陈旧,系统分析如何提速蒸馏管线 — burkov · 2026-11-17
- SK 海力士对英伟达收入翻倍至 240 亿美元,但真正的集中风险在美系客户 — tengyanAI · 2026-11-17
- macOS 连续运行 49.7 天后 TCP 栈爆雷,新连接全部失败 — DanielLockyer · 2026-11-17