Qwen 层级分析显示,第 20 层后 next-token 一致性陡升
Sauers_ · x · 2026-07-21
这条帖子在讨论 Qwen 的内部表征,配图是“next-token agreement”随层数变化的曲线。
- 图中标出了一个 analysis band,大致覆盖第 12–29 层。
- 前面若干层的一致性几乎为零,到了后期层数后开始明显上升,并在图里标注的 motor-onset threshold 0.4 附近越过阈值。
- 帖子意在说明:模型的 J-space 表征 可能和某种“运动启动”式的内部动力学有关。
「模型」频道最新
- Gemini 3.6 Flash 疑似已上线,输入价 1.50 美元 — ivan_bezdomny · 2026-07-21
- Artificial Analysis 更新榜单,Gemini 3.6 Flash 得 50 分 — Angaisb_ · 2026-07-21
- 谷歌悄上 Gemini 3.6 Flash,输出价还降了 — xiaohu · 2026-07-21
- Google 又发三款 Gemini,3.5 Pro 再次跳票 — Miserable-Archer-631 · 2026-07-21
- 谷歌静默上线 Gemini 3.6 Flash,更强且降价,主打智能体任务 — OwariDa · 2026-07-21
- 有人称 Claude 的 10 小时活相当于 Grok Build 的 3 小时 — Daniel_Farinax · 2026-07-21