16GB 显卡实测 Inkling-2-Mini:快 19 分钟但远不及 27B 档
Distinct-Pie2389 · reddit · 2026-11-23
一位 16GB 显存用户分享 Inkling-2-Mini 本地实测(Q4KXL、262K 上下文、INT8 KV):在 airbench 的同一套基准上耗时约 1 小时、得分 98%(取最好 2/3),而 27B 模型耗时 1 小时 24 分。
结论是速度虽快,但真实任务表现「拉胯」,远不到 27B 档,标准基准上也比不过。作者认为它只对装不下 27B 的低显存机器有吸引力——Q4 到 Q1 的量化衰减曲线理论上会更平缓,对自己而言没有使用价值,欢迎反驳。
「模型」频道最新
- Gemini 4 Hydrogen 每百万输入 token 1.5 美元,智能指数 51 反超 Argon — dl_weekly · 2026-11-23
- 基础模型 log 困惑度被指极强预测 Epoch 与 OpenAI 能力指标 — stochasticchasm · 2026-11-23
- Redis 作者 antirez:AI 已很擅长数学和编程,别再抱怨写不出好代码 — antirez · 2026-11-23
- 实测 Gemini 4 xhigh 花费约 2.8 倍,12 项要求通过数与 high 完全相同 — mhdfaran · 2026-11-23
- 预训练越高效,后训练 RL 越易失准:对齐「节奏」问题引热议 — dylan522p · 2026-11-23
- 曝 OpenAI 内部模型困惑度已破 0.76,GPT-6.2 疑解 Millennium 数学难题 — kimmonismus · 2026-11-23