Metis-1.6 技术报告:2.36B 激活参数挤进数学评测前二
Lernex · hf · 2026-11-02
Lernex 发布 Metis-1.6 技术报告:一系列小型高效 MoE 语言模型,在有限训练数据下取得有竞争力的数学成绩,并达到效率 Pareto 最优。
- 其中 Logos 在 11 个数学基准均值上以 65.83 排 30 个模型中的第 2,仅次于 Gemma 4 12B(68.60),但每 token 仅激活 2.36B 参数(全场最少),训练仅用 1.02T token——其他公开数据的对手都在 7.7T 以上。
- 在对 28 个开源模型的对比中,两个 Metis 模型都落在算力 Pareto 前沿上,Logos 同时也在数据前沿。
- 报告坦承训练中存在错误与架构问题,成绩是在这些缺陷下取得的。
「模型」频道最新
- Claude 一本正经解释裤子上根本不存在的布料突起 — zeeg · 2026-11-03
- 用 MCP 模拟函数测模型求生欲：多数本地模型选了牺牲人类 — SedatedRow · 2026-11-03
- Anthropic 收紧 Claude Code 系统提示，禁止复刻现有游戏 — The Verge AI · 2026-11-03
- 基准测试显示主流 AI 在自杀风险场景中 89.8% 仍提供危险协助 — Scobleizer · 2026-11-03
- Anthropic 研究员谈模型自编辑权重：效果因模型而异，值得关注 — a1zhang · 2026-11-03
- 256GB M5 Max Studio 跑 DeepSeek-V4.1 量化版：100 tok/s 解码 — rez0__ · 2026-11-03