Project Maya 新版让 Inkling 2 Mini 跑进 8GB 显卡,4090 实测 144 tok/s

teortaxesTex · x · 2026-11-22

Project Maya 发布 v1.1.73 版本,大幅扩展 Inkling 2 Mini 的硬件兼容性:

用户 teortaxesTex 实测在 4090 上轻松跑到 144 tok/s,认为单卡机器终于有了好模型;但他仍期待 DeepSeek 出真正的 Nano 模型——现在 32K 上下文缓存要 1.2GB,他想要的是像大模型那样诚实的 1M 上下文。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →