Inkling 2 Mini 单张 5090 跑出 613 tok/s 解码,支持 1M 上下文

jesdga95 · reddit · 2026-11-21

Thinking Machines 发布的小型 MoE 模型 Inkling 2 Mini 引发关注,部分任务上超过 Qwen 3.8 27B。Reddit 用户 jesdga95 发布了 Basalt 0.5.5 引擎在单张 RTX 5090 上运行它的实测。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →