纯C+Metal在MacBook上跑397B模型,4.4 tokens/s

tom_doerr · x · 2026-08-17

开发者tomdoerr使用纯C和Metal shaders在48GB内存的MacBook Pro上运行Qwen3.5-397B-A17B模型,速度达4.4+ tokens/s,支持工具调用。项目flash-moe在GitHub开源,包含详细技术文档和90+实验。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →