Strata 0.2.19 本地跑 Inkling 2 Mini,RTX 5090 输出超 4000 tokens/s

CurieuxExplorer · x · 2026-11-23

Strata 发布 0.2.19 版本,重点是原生支持 Thinking Machines Lab 的 Inkling 2 Mini——一个 26.4B 参数的循环 MoE 模型(每 token 激活 3.4B,循环激活 5.4B,支持 1M 上下文、图文输入与 OpenAI 兼容工具调用),可在 Windows、Linux、macOS Apple Silicon、Intel Arc 和 NVIDIA DGX Spark 上本地运行。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →