pi 模型推理引擎 rec 两行代码即可在 M5 Max 本地运行
_rockt · x · 2026-10-22
- pi 开源了自己的推理引擎 rec，安装与启动只需两行命令（curl ... | bash 后 rec launch pi），作者在 M5 Max 上实测运行流畅。
- 作者认为模型厂商随模型提供专用推理引擎正在成为一个趋势。
「Infra」频道最新
- 推文科普投机解码：不改权重、保持采样分布的加速之美 — cneuralnetwork · 2026-10-22
- 图解投机解码：一次前向通过最多产出 k+1 个 token 且分布不变 — cneuralnetwork · 2026-10-22
- Cloudflare 披露为 OpenAI ChatGPT 站点提供基础设施支持 — ritakozlov · 2026-10-22
- DeepSeek 开源全景：从模型权重到推理引擎几乎全栈开放 — examachine · 2026-10-22
- Meta Prometheus 超算细节：GPU 集群仅 87% 可用，13% 作热备闲置 — SumitGup · 2026-10-22
- 作者自行转换一批 OpenVINO 模型，公开征集更多需求 — Sudden_Topic5154 · 2026-10-22