MacBook 能跑 284B 模型，腾讯 Palm-Infra 开源
dr_cintas · x · 2026-08-26
腾讯开源 Palm-Infra 框架，使得在 Apple Silicon 上本地运行超大参数模型成为可能。实测显示，DeepSeek-V4-Flash (284B) 在 M5 Pro 上可达 5.71 tps，显存占用 20GB；另一 122B 模型达 16.53 tps。该框架利用 Metal、CPU SIMD 和 SSD 专家卸载技术，突破了 llama.cpp 的加载限制。
所属事件:腾讯开源 Palm-Infra，MacBook 可本地跑 284B 模型(2 条相关)→
「Infra」频道最新
- Opus-4.8 级别模型已在国产 AI 芯片上完成训练部署 — chris_j_paxton · 2026-08-26
- GLM-5.3-Flash 日处理 100T tokens，竟全靠国产芯片 — airesearch12 · 2026-08-26
- 中国实验室高效整合创新，ZAI 复用同行技术降低成本 — PAstynome · 2026-08-26
- TAO 推出专为机构与智能体设计的基础设施 — bittingthembits · 2026-08-26
- AssemblyAI 接入 Qwen3.5 4B，语音改写提速 1.9 倍 — AssemblyAI · 2026-08-26
- 日立空运两台 80 吨变压器跨大西洋，AI 算力抢的是交付时间 — demian_ai · 2026-08-26