Qwen 3.8 Flash Next 用 N-gram 表节省骨干权重
antirez · x · 2026-08-30
antirez 解释了 Qwen 3.8 Flash Next 的 N-gram 机制：在 Layer 1 获取最后 2 和 3 个 token，从 51B 数据库中检索 16 个小向量，组合成大向量并通过门控在 Layer 2 丰富当前 token 表示。此举旨在让模型骨干节省大量权重，无需记忆如“New York”这类固定搭配。
所属事件:antirez 解析 Qwen 3.8 Flash Next：SSD 驻留 n-grams 助力 64GB Mac 本地推理(10 条相关)→
「模型」频道最新
- 同题讨论:AI 平台期之争——数据耗尽后进步能否靠 harness 延续 — Otherwise-Report1848 · 2026-10-16
- Mistral 自夸 STEM 成绩,榜单里其实仅排第六 — MistralAI · 2026-10-16
- 本地部署实测:Gemma 4、Llama 3 与 Mistral 工具调用能力横评 — leslysandra · 2026-10-16
- 闲鱼5元Gemini 18个月Pro泛滥，用户自嘲成碳基“鉴AI师” — huangyun_122 · 2026-10-16
- 博主实测称 Opus 5.5 与 Astra 风格迥异：Astra 下限高、推理独一档 — haider1 · 2026-10-16
- Artificial Analysis 推出 Decision Index,评测决策模型新品类 — ArtificialAnlys · 2026-10-16