本地实测 Inkling 2 mini:速度仅 Qwen 十分之一,任务屡屡失败
Mrinohk · reddit · 2026-11-22
r/LocalLLaMA 用户在自己的个人助理 harness(RAG + 智能家居 + bash 控制全屋设备与手机)中实测 Inkling 2 mini(UDQ4KXL 量化),作为 Qwen3.6 35B 的替代候选,结果令人失望。
- 速度:在 P100 上比 Qwen 慢 5-10 倍(生成 20-25 t/s vs 150-200),循环 transformer 架构导致,投机解码接受率低无法启用。
- 测试一(汇总 Daytona 项目车现状):表现尚可,这是多数模型的已解决问题。
- 测试二(找稀有配件并在 Mac 上打开链接):一次都没成功,还去搜雨刮器等名字相近的错误零件,疑似世界知识不足。
- 对比基线:Qwen3.6 35B 几乎每次都完成但约 30k token 后变笨;Gemma4 26B 能完成任务但过度思考、人设保持极好;Gemini 3 Flash 早期即可解决。
楼主疑惑社区盛赞其「能力比肩 Qwen3.8 27B」的说法,怀疑是非 SWE 场景暴露了短板,并希望能找到自己配置的问题所在。
「模型」频道最新
- 博主盛赞 Inkling 2M:让我想起当年的 Mistral 7B — teortaxesTex · 2026-11-22
- Tesla FSD V15多伦多闹市实时感知演示引发热议 — gnukeith · 2026-11-22
- 实测 Inkling 2 Mini 弱于 Qwen3.8-27B,「疑心」锁定在 32 个神经元 — FeydRowan · 2026-11-22
- Gemini 4 Neon 以 1924 Elo 登顶 AI 国际象棋榜,Fable 与 Astra 仅列 9、10 位 — sahandsharif · 2026-11-22
- Thinking Machines Inkling-2-Mini GGUF 量化版登 HF 热门 — AtomicChat · 2026-11-22
- 博主查后台:所谓 GPT-6.2 Astra 实际全部路由到 6 Astra,6.2 零用量 — bdsqlsz · 2026-11-22