vLLM 与 Recursive 联手优化 Flint:每层内核启动从 22 次降到 7 次
vllm_project · x · 2026-10-22
vLLM 项目宣布与 Recursive SI 合作,让 Flint 从第一天起就跑得快:通过定制内核与激进的算子融合,把每层内核启动次数从 22 次压缩到仅 7 次。vLLM 同时发布了 Flint 的架构、优化细节与上手指南,对关注新型推理硬件软件栈适配的开发者是一份实用参考。
所属事件:Recursive 发布开源本地编码模型 Flint，MacBook 可跑(50 条相关)→
「Infra」频道最新
- SPCX 财报电话会提出「每瓦算力」指标,AI 竞争下沉到底层资源 — mobileraj · 2026-10-22
- Eureka Machine 适配 Mac 推理,MacBook 满载几乎无风扇噪音 — cong_ml · 2026-10-22
- 算力需求过热变「逐月拍卖」，分析师称长期合约模式正在消亡 — BenBajarin · 2026-10-22
- SGLang 团队用 TPU + TorchTitan 跑早期 RL 训练，结果令人鼓舞 — ying11231 · 2026-10-22
- CXMT 上市即超亚洲中小晶圆厂市值总和，约达 SK 海力士一半 — pstAsiatech · 2026-10-22
- DeepSeek 开源 DeepInfer 缺关键组件，SemiAnalysis 拆解为何难直接上线 — cHHillee · 2026-10-22