Thinking Machines 推出开源 Inkling Small 2，4 卡可承载海量 KV 缓存
Thinking Machines 发布开源权重模型 Inkling Small 2（官方宣布时称 Inkling 2 Small），自称美国最强的 open weight 模型。该模型 AA Intelligence Index 得分 31，较前代大幅提升，现已可在 Tinker 上使用。硬件方面，模型可装进 4 张 RTX Pro 6000（96GB Blackwell），单机支持高达 750 万 token KV 缓存并实现约 38 万并发 KV cache，大幅降低部署门槛。
2026-11-14 ~ 2026-11-16 · 2 条相关
- 第 1 集:Thinking Machines 以 Apache 2.0 开源 Inkling 2 Small 权重(2026-11-13,31 条)
- 第 2 集:vLLM 上线 Inkling-2-Small：594B MoE、百万上下文、单卡 1100 tok/s(2026-11-13,2 条)
- 第 3 集:Thinking Machines 开源 Inkling 2 Small 登顶美国开源榜(2026-11-13,3 条)
- 第 4 集:Eval³ 榜新增 Inkling 2 Small，称优于美国开源模型(2026-11-13,2 条)
- 第 5 集:Inkling 2 Small 上架 Ollama：594B MoE、1M 上下文(2026-11-13,2 条)
- 第 6 集:Thinking Machines 开源模型 Inkling Small 2 获好评(2026-11-13,2 条)
- 第 7 集:Unsloth 发布 Inkling-2-Small GGUF 量化版，171GB 本地跑 594B 模型(2026-11-13,2 条)
- 第 8 集:Thinking Machines 揭秘 Inkling 2 Small 端到端 4-bit 训练(2026-11-14,10 条)
- 第 9 集:Inkling 2 Small 原生 4-bit 训练收益遭质疑(2026-11-14,2 条)
- 第 10 集:Thinking Machines 推出开源 Inkling Small 2，4 卡可承载海量 KV 缓存(2026-11-14,2 条)
- Inkling Small 2 可跑进 4 张 Blackwell,750 万 token KV 缓存 — LiTianleli · 2026-11-14
- Thinking Machines 发布 Inkling 2 Small:4 卡跑 38 万并发 KV cache — LiTianleli · 2026-11-16