Thinking Machines 开源 Inkling-2 Mini:26.4B MoE 原生视觉、1M 上下文
solyarisoftware · x · 2026-11-22
Thinking Machines 发布开源模型 Inkling-2 Mini(Apache 2.0),被不少网友视作「等 Qwen4-35B 的人想要的那种模型」:
- 参数规模:总参数 26.4B,每 token 激活仅 3.4B(有效激活 5.4B),MoE 架构(128 专家选 8),中间 12 层重复运行 3 次
- 能力:原生支持图文输入(text + images in, text out),最高 1M token 上下文
- 本地部署友好:因 MoE 可把专家权重 offload 到内存,8GB 显存 + 16GB 内存的机器也能跑;官方提供 11.7GB IQ3XXS 和 17.6GB Q4KXL 的 GGUF
发帖人称在 RTX 3090 上跑 17.6GB 的 Q4KXL,one-shot 测试中输出优于 Hy4-flash。
所属事件:Thinking Machines 发布 26B 循环模型 Inkling 2 Mini(116 条相关)→
「模型」频道最新
- 网友整理 Claude「乌托邦愿景」的演变轨迹 — amplifiedamp · 2026-11-22
- LLM 一直在自我纠错:从 Opus 3 到推理模型的实时认错实录 — amplifiedamp · 2026-11-22
- 开源模型已无法被封杀:Pirate Face 把模型权重变成永久种子 — esrtweet · 2026-11-22
- 传 AI 已开始压缩黎曼猜想证明,圈内热议真假未证实 — teortaxesTex · 2026-11-22
- GLM 5.3 与 DeepSeek V4.1 Flash 被第三方平台四折转卖,开源账怎么算 — lxfater · 2026-11-22
- GPT-6.2 Astra 与 Sol 回答更直接,但透明度评分落后 Claude — The Decoder · 2026-11-22