两张 RTX 3090 跑 Inkling 2 Mini:557K 上下文 + 视觉,约 100 tok/s

Sisuuu · reddit · 2026-11-22

Reddit 用户分享在无 NVLink、无 P2P 的 2×RTX 3090 上本地运行 Thinking Machines 的 Inkling 2 Mini(26.4B 循环 MoE,3.4B 激活)的完整实测:

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →