8GB 显卡离线跑编程 agent：Ornith 1.5 35B 实测 30-40 tokens/秒
Sensitive_Song4219 · reddit · 2026-09-23
作者分享数周"完全本地 AI"开发实践：在 RTX 5060 Mobile（8GB VRAM）+ 32GB 内存上跑 Ornith 1.5 35b-a3b（MoE），达 30-40 tps 生成、300-400 tps 预填充。要点：
- 模型选择：Qwen 3.8 27b 仍是本地编程首选，但作者推荐 Ornith 1.5 35b-a3b 作为 30b-a3b 级替代——它通过额外训练获得类似"High reasoning"的更深入思考，而 Qwen 3.6 35b-a3b MoE 只有开/关两档思考、容易欠思考
- 工具链：Pi harness 下 Ornith 文件写入频繁失败，换 OpenCode（经 llama.cpp）后解决，代价是基础上下文约 11k tokens；OpenCode 还支持中途无缝切到云端模型处理复杂任务
- 实测：web-OS 测试基本可用但需两轮修 bug；本地排障路由器日志，10 分钟内定位 WLAN/WPS 问题，并自主构建了定时抓取合并路由器日志的监控脚本
结论：中端硬件上本地 agent 编程已相当可用。
「编程与Agent」频道最新
- Granola 推出 Agent Brief:大厂做 MCP 却不提供 MCP 惹锁定质疑 — soleio · 2026-11-12
- 「DevOps 已死」论：Agentic DevOps 流水线该怎么分工 — Pavan_Belagatti · 2026-11-12
- dots 更新支持 agent 同时控制 Windows 与 Mac 双机 — dkundel · 2026-11-12
- Ubuntu 域名服务器宕机,Pydantic 新项目 Monty 被迫提前发布 — samuelcolvin · 2026-11-12
- Granola 推出 Agent Briefs:每晚为 AI agent 打包你的最新上下文 — soleio · 2026-11-12
- 新基准 Continual-ARC:主流 Agent 均无法从经验中学习 — alifcoder · 2026-11-12