腾讯开源 Palm-Infra,MacBook 可本地跑 284B 模型

腾讯开源 Palm-Infra 框架,使在 Apple Silicon 上本地运行超大参数模型成为可能。实测显示,DeepSeek-V4-Flash(284B 参数)在配备 20GB 内存的 M5 Pro MacBook 上实现 5.71 tokens/sec 的解码速度,展示了消费级硬件运行大模型的新进展。

2026-08-26 ~ 2026-08-26 · 2 条相关