实测本地 Ornith 1.5 35B:模型能力稳,硬件成瓶颈
DanWahlin · x · 2026-08-27
作者在 M3 Max (64GB) 上通过 GitHub Copilot App 本地运行了 Ornith 1.5 35B (Q5 量化版) 进行天气 App 开发测试。
测试结论:
- 模型表现:扎实,具备良好的工具调用能力和输出质量。
- 易用性:Copilot App 集成本地模型体验顺畅。
- 瓶颈:量化后的本地推理在需要速度和质量的 Agent 任务中,硬件性能仍是主要限制。
作者认为,尽管模型不错,但想要在本地流畅运行高负载 Agent 任务,仍需更强的硬件支持。
所属事件:实测本地 Ornith 1.5 35B:模型能力稳,硬件成瓶颈(2 条相关)→
「编程与Agent」频道最新
- 开发者放权 Claude:给定域名让其自由构建应用 — United-Combination66 · 2026-08-27
- 自审计 MCP 记忆服务器发现越权漏洞:模型可读他人记忆 — Technical_Bench_188 · 2026-08-27
- RAG 效果差真凶竟是文档解析?开发者热议隐藏瓶颈 — -R-I-k- · 2026-08-27
- 开源OMEM:纯本地运行的Agent记忆层,不依赖模型判断事实 — Technical_Bench_188 · 2026-08-27
- IteraTools MCP:集成 40+ 工具的生产级 MCP 服务器 — modelcontextprotocol · 2026-08-27
- DomainCheckr:无需 API 密钥的域名可用性检查工具 — modelcontextprotocol · 2026-08-27