Perplexity 开源决策模型可本地跑：5B 蒸馏自 7B,Mac 免费无 API
Saboo_Shubham_ · x · 2026-10-26
博主推荐在 Mac 本地运行 Perplexity 发布在 Hugging Face 的决策模型 pplx-decider-flash-v1.2,无需 API key、完全免费。
从模型卡看:该模型基于 Qwen3.5-4B,从 7B 决策模型蒸馏而来(学生学习教师的完整概率分布而非仅答案),体积约为原版七分之一,支持文本与图像输入,采用 Apache-2.0 许可。官方评测显示其保留了 7B 模型大部分 Decision Index 与视觉得分,适合延迟和成本优先的场景,近月下载量约 1900 次。
所属事件:Perplexity 开源决策模型,Mac 可本地免费运行(2 条相关)→
「Infra」频道最新
- RCR 圆桌共识：建 AI 基础设施不难，难在卖出可量化的 ROI — seankinneyRCR · 2026-10-26
- Izwi 0.1.0 发布:全本地语音 AI,集 TTS/克隆/转写一身 — zinyando · 2026-10-26
- 前沿攻防对抗升级，安全模型或率先催生量子计算需求 — BenBajarin · 2026-10-26
- DesignArena 数据：Gemini 3.8 Flash 发布一个月后输出质量明显退化 — legit_api · 2026-10-26
- 图解数据中心融资结构：SPV 模式让巨头债务移出资产负债表 — SumitGup · 2026-10-26
- OpenAI 曝光 GPT-7 训练细节：打造缓存网页「离线世界」供前沿 RL 使用 — daniel_mac8 · 2026-10-26