Inkling 2 Mini 本地实测:代码质量小胜 Qwen 3.8 27B,但部署麻烦
Ubunta · x · 2026-11-21
博主 Ubunta 在 Ryzen AI 9 HX 370(Radeon 890M iGPU)上实测本地运行 Inkling 2 Mini,认为它在 PC 上还不值得炒作,Mac 用户或许可以一试。
- 代码质量确实能打:在作者的高难度编码测试中 277 对 272 asserts 小胜 Qwen 3.8 27B,代码更干净
- 但没有更快、token 用量也没更省;iGPU 上 Qwen dense+Ollama(MTP) 生成 8-14 tok/s,Inkling Q4 仅 9.2-10.5 tok/s
- 部署门槛高:需要 fork 版 llama.cpp 加未合并的 PR 补丁才能跑起来
- 结论:Qwen 仍是日常主力,Inkling 留着但不换
「Infra」频道最新
- Inkling 2 Mini 编码胜 Qwen 3.8 27B,但 PC 端不值得吹 — Ubunta · 2026-11-21
- Inkling-2-Mini 本地部署门槛低至 9GB 内存,各级量化需求一览 — NielsRogge · 2026-11-21
- 观点:只有基建硬资源卷到死透,应用层的春天才会到来 — yangyi · 2026-11-21
- 26 个 LLM 路由器暗藏恶意工具调用,一客户端被卷走 50 万美元 — 0xkarasy · 2026-11-21
- OpenRouter 被曝把用户 BYOK 私钥发送到中国,此前曾否认 — 0xkarasy · 2026-11-21
- OVH 自研 Olala Mini 7A1B:RTX 5090 单卡解码 360 tok/s、支持 96K 上下文 — JiliJeanlouis · 2026-11-21