Recursive 发布 Flint 编码模型:39.8B MoE 仅 2.5B 激活,附自研推理引擎
BerryBlush_Rogers691 · reddit · 2026-10-22
Recursive 发布编码专用开源模型 Flint(Hugging Face: RecursiveSI/flint)及配套本地推理引擎 rec:
- 模型:39.8B 总参数 MoE,约 2.5B 激活,256K 上下文,Apache 2.0 权重,支持推理和多轮工具调用
- rec 引擎:本地推理引擎,集成 pi 和 OpenCode;官方在 M4 Pro 上实测生成吞吐达 llama.cpp 的 1.4–2.6×(对比不含 prefill)
- 硬件要求:目前需 M4 Pro/M5 Pro/M5 Max 且至少 48GB 统一内存,针对单会话优化;另有 NVIDIA 和 Apple Silicon 的单独量化版本,官方 GGUF 下载体积仍不小
作者提出保留疑问:生成速度优势能否转化为完整编码任务的收益——算上读仓库、处理工具结果和跑测试后,长对话下 rec vs llama.cpp 的同任务对比才更有意义。
所属事件:Recursive 发布开源 40B MoE 编码模型 Flint(56 条相关)→
「Infra」频道最新
- 推文科普投机解码：不改权重、保持采样分布的加速之美 — cneuralnetwork · 2026-10-22
- 图解投机解码：一次前向通过最多产出 k+1 个 token 且分布不变 — cneuralnetwork · 2026-10-22
- Cloudflare 披露为 OpenAI ChatGPT 站点提供基础设施支持 — ritakozlov · 2026-10-22
- DeepSeek 开源全景：从模型权重到推理引擎几乎全栈开放 — examachine · 2026-10-22
- Meta Prometheus 超算细节：GPU 集群仅 87% 可用，13% 作热备闲置 — SumitGup · 2026-10-22
- 作者自行转换一批 OpenVINO 模型，公开征集更多需求 — Sudden_Topic5154 · 2026-10-22