25B 的 Inkling-2-mini 单卡 3090 本地跑,号称胜过更大 MoE 模型

LiTianleli · x · 2026-11-22

用户实测 thinkymachines 的 Inkling-2-mini:约 25B 的模型,用 Unsloth UD-Q4KXL 量化在单张 RTX 3090 上本地运行。让它一次性(one-shot、无 harness、无工具调用)生成「雪天漂浮岛屿与草地树木」的场景,仅消耗约 23600 tokens(思考 2891 + 回答 20709)即得到高质量结果。作者将其与 API 上的 Hy4-Flash 对比,认为输出质量明显更好,称这对本地 AI 是好消息,但仍需更多测试验证。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →