Eureka Machine 自动写出 Metal megakernel:Flint 解码全程融合单内核
hardmaru · x · 2026-10-22
- Recursive AI 的 Eureka Machine 现在能自动编写完整 megakernel:把 Flint 的整个解码阶段在 M4/M5 Mac 上融合为单个 Metal 内核,涵盖每一层、attention、低比特投影、专家路由与输出头。
- Metal 是 Apple 的 GPU 语言,这种全融合做法可减少内核启动与访存开销;代码已开源。
「Infra」频道最新
- Flint int4 跑 Qwen3.6-35B:Mac mini 解码最高 122.6 tok/s,质量持平 — _rockt · 2026-10-22
- AI 从业者喊话欧盟：别焦虑模型，砸钱建 GPU 集群和电网才是正事 — DionysianAgent · 2026-10-22
- 10月21日 Railway 与 LiteLLM 遭攻击,AI 防御需进入代理化时代 — alvelda · 2026-10-22
- 小量化模型思考更长反而更慢？本地部署社区热议量化选择 — Banana-Negra · 2026-10-22
- 独立开发者自建全栈 AI 基础设施，吐槽 X 圈层壁垒 — ShimazuSystems · 2026-10-22
- NVIDIA GTC 柏林:Rev Lebaredian 称 Agent 化 AI 带来仿真技术阶跃 — RevLebaredian · 2026-10-22