开源稀疏模型 Flint:40B 参数仅 2.5B 激活,M4 Pro 上跑 125+ tokens/s
agihouse_org · x · 2026-11-12
agihouse 发布了首个由其自动研究系统(Eureka Machine)训练的模型 Flint:一个 40B 参数、仅 2.5B 激活的稀疏模型,专为本地 agentic coding 设计。
关键信息:
- 在 M4 Pro MacBook Pro 上可达 125+ tokens/sec,面向端侧部署
- 内置为 Apple M4/M5 芯片定制的 Metal megakernel,由其自动研究系统生成
- 权重已开源,发布在 Hugging Face(RecursiveSI/flint),chat template 支持工具调用与推理内容
这代表了「稀疏化 + 端侧专用内核 + agent 场景」组合的一条新路线,对本地跑 coding agent 的开发者值得关注。
所属事件:Recursive 自动研究系统造出首个自我改进模型 Flint(4 条相关)→
「Infra」频道最新
- Sixth Street CEO：约 2000 亿美元芯片积压在仓库，数据中心还没建好 — SumitGup · 2026-11-12
- AWS CEO：太空数据中心至少还需 10-20 年，经济上很难成立 — rohanpaul_ai · 2026-11-12
- CoreWeave Database 正式可用：托管 PostgreSQL 搬进 GPU 集群旁 — _ScottCondron · 2026-11-12
- micro1 五个月评估 token 量翻 12 倍，agent 启动从 3 分钟缩到 12 秒 — Exp_Mark · 2026-11-12
- 分析师：AI 巨头把规模误当创新，选民已用选票拒绝数据中心 — DavidLinthicum · 2026-11-12
- 马斯克放话:SpaceX 目标地球年产 1TW 电力,月球冲 1PW — ns123abc · 2026-11-12