实测本地模型:Qwen-27B 替代云端,Ornith-9B 也能写代码
Barni275 · reddit · 2026-08-31
一位开发者分享了本地运行开源模型进行编码的实战体验:
- Qwen-2.5-72B (文中笔误为 27B/3.8):在 RTX 3090 (Q80 KV, 18w context) 上运行,Prefill 约 1000-1500 tps,生成 45-60 tps。体验极佳,已替代 5-6 个月前的云端订阅方案处理主要编码任务。
- Ornith-1.5-9B:在 8GB 显存的家庭服务器上运行。虽然未跑基准测试,但在简单的 Python 重构任务中表现成功。作者询问社区是否有更多该模型的真实编码反馈。
「编程与Agent」频道最新
- 开源工具 ebook2audiobook 免费把电子书变有声书,已获 2 万 star — thisguyknowsai · 2026-10-16
- OpenAI DevDay 班加罗尔站开幕,现场推出 Codex 大使计划 — HowDevelop · 2026-10-16
- 用数学模式与 Gemini 智能体在 Antigravity CLI 里作曲的玩法实验 — fofrAI · 2026-10-16
- Google 实习生发布 DuoDiscover,登顶 NVIDIA SOL-ExecBench — berkeley_ai · 2026-10-16
- 去掉框架手写 Agent 循环:LangGraph 到底帮你做了什么 — m3m3o · 2026-10-16
- 博主称免费版用户已严重低估 10 个月来 AI Agent 的进步 — realmeetjames · 2026-10-16