Ornith 1.5 35B MTP 头部竟是随机初始化
Max-_-Power · reddit · 2026-08-21
有发现指出，HuggingFace 上发布的 Ornith-1.5-35B-A3B 模型目前配备的 MTP（Multi-Token Prediction）头部实际上从未经过训练，仅仅是随机初始化。这解释了为什么该模型在启用 MTP 时表现极慢。
「模型」频道最新
- OpenAI 推出 GPT-Live-1.1 语音升级：新增六语种声音、更少卡顿 — OpenAI · 2026-10-16
- LMArena 上线 Muse Spark 新模型，Battle 与 Agent 模式可测 — arena · 2026-10-16
- 多模型同题设计 UI:用 Paseo 编排四套界面方案竞技 — vista8 · 2026-10-16
- Ilya 质疑 Meta 新许可证：年收入超 2000 万美元的推理服务商须与 Meta 另签协议 — ilyasu · 2026-10-16
- Muse-Spark 开源权重发布：816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16
- 大 V 晒 Claude 用量矛盾账:周额度 33%、窗口 45%,却提示 API 额度耗尽 — TheMoonMidas · 2026-10-16