双 3090 跑 Inkling 2 Mini:557K 上下文 + 视觉约 100 tok/s

Sisuuu · reddit · 2026-11-22

作者(全程用 Claude Code 写帖)分享了在 2×RTX 3090(无 NVLink/P2P)上本地部署 Thinking Machines 的 Inkling 2 Mini(26.4B looped MoE,3.4B 激活)的完整实践:

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →