Thinky Machines 发布 Inkling 2 Mini:26B 循环 MoE 可跑进 32GB 内存
simonguozirui · x · 2026-11-21
PyTorch 创始人 Soumith Chintala 转发并实测了 Thinky Machines 新发布的 Inkling 2 Mini。
- 采用循环(looped)Transformer 架构的 MoE,总参数约 26-27B,每步仅激活 3B,可装进 32GB 内存的机器
- 在 AA Index 上得分 20.1,官方称评测表现大致与 Qwen3 系列同级别模型相当,足以胜任 agentic 工作
- Chintala 在 DGX Spark 和 Mac Mini 上本地运行,目前解码速度约 75 tok/s,仍在调优
- 此前该公司的 Inkling 2 Small 有 594B 参数被认为太大,Mini 是对小参数量需求的回应
所属事件:Thinking Machines 发布 26B 循环模型 Inkling 2 Mini(111 条相关)→
「Infra」频道最新
- FT:AI 服务器供应商签约后涨价最高达 45% — nordicinst · 2026-11-22
- World Robotics 2026:中国占全球新装工业机器人 59%,约 35.4 万台 — ingliguori · 2026-11-22
- MLX 经 Vulkan 跑出 124 tok/s,同卡速度反超 CUDA 25% — SumitGup · 2026-11-22
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- Token 经济模型:API 支出四年或增 11.5 倍,但仅 1% 用户能撑起算力账单 — AccBalanced · 2026-11-22
- 零质量损失跑 Strata:调 layer_split 后 CPU 专家未命中率 22% 降至 12% — PathfinderTactician · 2026-11-22