Modular MAX 开源数日即秀肌肉:移动端 CPU/GPU 性能超 llama.cpp
clattner_llvm · x · 2026-10-28
LLVM 之父 Chris Lattner 转发 praise:Modular 开源 MAX 才几天,工程师 Apurva 已发表详细的移植与优化博客,涵盖 bring-up 过程、优化手段、失败实验和完整 benchmark 结果,并附可复现的测试源码。
结果显示 MAX 在移动端 CPU 和 GPU 上性能超过 llama.cpp,同时支持多家厂商 GPU,并正确处理设备/桌面端的资源分配。Lattner 称这只是开始,欢迎社区质疑测量方法。
「Infra」频道最新
- AMD 团队详解 warp-pipelining：Triton GEMM 在 MI300/350/450 上追平手写汇编 — xiaosun86 · 2026-10-28
- Google TPU 首次登陆外部云：Oracle Cloud 宣布接入 — SumitGup · 2026-10-28
- Ben Bajarin:自建训练集群让 Meta 能更高频迭代模型变体 — BenBajarin · 2026-10-28
- Google 反爬机制适得其反:SEO 工具为洗掉毒化结果多爬 3 倍 — gaganghotra_ · 2026-10-28
- 英特尔高管问各家 Agent 用什么 CPU:EPYC 撑 Meta Muse 与 OpenAI dots — ryanshrout · 2026-10-28
- CoreWeave 建首个 AI 专用全球骨干网：51 座数据中心、Q4 扩至亚太中东 — OnlineInference · 2026-10-28