Ornith 1.5 35B MTP 头部竟是随机初始化
Max-_-Power · reddit · 2026-08-21
有发现指出,HuggingFace 上发布的 Ornith-1.5-35B-A3B 模型目前配备的 MTP(Multi-Token Prediction)头部实际上从未经过训练,仅仅是随机初始化。这解释了为什么该模型在启用 MTP 时表现极慢。
「模型」频道最新
- 吐槽Google:Gemini 3.7发布一周仍未接入自家Jules智能体 — brandon_galang · 2026-08-24
- Qwen 27B 3.8 极低量化实测:Q3 XXS 可用 — jeremyckahn · 2026-08-24
- 用户反馈 GPT-5.6 近期输出质量显著变化 — haider1 · 2026-08-24
- Ramp 统计 Anthropic 模型使用占比:Opus 4.8 最受青睐 — vista8 · 2026-08-24
- 腾讯发布 UI-Mate-27B,支持桌面 GUI 智能体操作 — tencent · 2026-08-24
- ConvRot 量化方法入驻 llama-cpp,Q6 接近 Q8 精度 — giveen · 2026-08-24