Recursive 发布 Flint 模型:40B 仅 2B 激活,本地编码速度登顶
_rockt · x · 2026-10-22
Recursive 推出本地推理模型 Flint(40B 总参数、约 2B 激活),官方晒出本地硬件解码吞吐对比:在 Apple M4 Pro 48GB 上,Flint MLX 版短上下文达 131.22 tokens/s、128K 平均 68.89,明显领先同体量的 Llama、Laguna、Qwen3.5、Gemma 等稀疏 MoE 与稠密模型;在 RTX Spark 上 NVFP4 版更达 155.82 tokens/s。作者强调其本地编码能力「great at local coding, and fast」。
所属事件:Socher 公司发布开源模型 Flint:自动化研究系统 4 个月造出(29 条相关)→
「Infra」频道最新
- GPU 初创 Flappy Airplanes 融资 10 亿美元 A 轮,Index 与 Lux 联合领投 — vitaliychiley · 2026-10-22
- Crusoe 在 PyTorch 大会展示 LLM 后训练平台,兼容 Tinker API — PyTorch · 2026-10-22
- 开源 PR 优化 DeepSeek-V4.1 推理:4 张 RTX PRO 6000 实测提速 — AlpinDale · 2026-10-22
- vLLM Day-0 支持 Flint:单卡 GB200 跑出 500 TPS — _rockt · 2026-10-22
- Grass 播客:训练数据已成盈利生意,头部门槛实验室都是客户 — grass · 2026-10-22
- DeepSpeed 分享大规模训练新进展:AutoSP、Muon 优化器与自动并行 — PyTorch · 2026-10-22