Recursive 发布本地编码模型 Flint:40B MoE 量化后可在 24GB Mac 运行
_rockt · x · 2026-10-24
Atomic Chat 为 Recursive 的首个模型 Flint 发布了 GGUF 量化阶梯(42.9GB 至 13.3GB),推荐 24GB 硬件使用 13.3GB 的 AD-IQ2XXS,可留出约 95K tokens 上下文。
要点:
- Flint 是 40B 编码 MoE 模型(256 个专家激活 6 个),由 Recursive 的自动化研究系统 Eureka Machine 从零构建,耗时不到 4 个月
- 官方宣称 MacBook Pro 上 125+ tokens/sec、RTX Spark 上 150+ tokens/sec,比同级别模型快最多 2 倍
- 权重已在 Hugging Face 开放,可在 opencode、pidot 等框架免费试用
- 配图给出各量化档与 BF16 的 Top-1 一致率:AD-IQ4XS(24.5GB,91.25%)、AD-Q4KM(25.8GB,91.72%)、AD-Q6K(34.7GB,94.67%)
「编程与Agent」频道最新
- 只用标题喂摘要器也会编出细节,开发者求教忠实度校验实践 — rahul_watertech · 2026-10-24
- 博主称 DeepSeek V4.1 Flash 让纯 vibe coding 不再安全 — EXM7777 · 2026-10-24
- Anthropic 详解 Claude Duet 安全设计:永不接触用户密码 — claudeai · 2026-10-24
- Replit 收购 Chroma,要为 agent 公司打造上下文层 — amasad · 2026-10-24
- 开发者用 Opus 5.5 + Three.js 做出可拆解发条玩具店网站 — techartist_ · 2026-10-24
- SCOPE 论文:把自然语言策略编译成可执行神经符号程序 — 1982_miguel · 2026-10-24