纯C+Metal在MacBook上跑397B模型,4.4 tokens/s
tom_doerr · x · 2026-08-17
开发者tomdoerr使用纯C和Metal shaders在48GB内存的MacBook Pro上运行Qwen3.5-397B-A17B模型,速度达4.4+ tokens/s,支持工具调用。项目flash-moe在GitHub开源,包含详细技术文档和90+实验。
「编程与Agent」频道最新
- 利用LLM自动推断表单值,优化产品注册流程 — threepointone · 2026-08-17
- 用 Claude Code 打造听众 Agent:监测痛点与竞品分析 — EXM7777 · 2026-08-17
- 如何决定把 Grok Bot 用在哪?代理人核心工作流解析 — alex_verem · 2026-08-17
- 用 Claude Code 30 分钟搭建 Deepgram Flux 语音测试工作室 — CodeByPoonam · 2026-08-17
- 谷歌 A2A 协议加入 AAIF,统一跨框架 Agent 通信标准 — iamKierraD · 2026-08-17
- Zapier 报告:用自动化减少 AI 调用可省 90% 成本 — TawohAwa · 2026-08-17