Inkling 2 Mini 本地跑通:26.4B MoE 仅需 16GB 内存,编码成绩同级最强
simonguozirui · x · 2026-11-21
Unsloth 发布 Inkling 2 Mini 的 GGUF 量化与本地运行指南:这是 Thinking Machines 的 Apache 2.0 循环 transformer MoE 模型(26.4B 总参数 / 5.4B 激活),支持 1M 上下文,面向编码、agentic 与视觉任务。
- 同级最佳成绩:DeepSWE v1.1 48.2%,SWE-bench Pro v2 (Hard) 77.9%,SWE-bench Verified 79.2%,BrowseComp 79.0%
- 硬件门槛低:1-bit 量化约 9GB 内存,2-bit 10-11GB,4-bit 17-18GB,8-bit 无损需 24GB
- 可通过 Unsloth 和 llama.cpp 运行,横比表中它以 5.4B 激活参数在多数编码基准上压过 Dory、Qwen3.8-27B 甚至 501B 的 Beam 1.0。
「编程与Agent」频道最新
- Runway:10月合并的 PR 中 38% 由 Agent 驱动,人工审批降至五分钟 — runwayml · 2026-11-21
- Fable 5.2 视频音画不同步?完整修复工作流全程在 Claude 内搞定 — AIwithGhotai · 2026-11-21
- Claude Opus 5.5 用 computer use 驱动 Onshape 做 CAD 仿真,体验惊艳 — adhamelarabawy · 2026-11-21
- 跨框架跑子智能体:五段式独立审查工作流完整公开 — PawelHuryn · 2026-11-21
- 飞行模式纯本地跑 Inkling 2 Mini,几分钟在 Mac 上写出现代模拟器 — LiTianleli · 2026-11-21
- Replit 工程师:日常开发已完全不需要本地电脑 — amasad · 2026-11-21