24GB 内存老工作站也能跑 Agent:Pi Agent + Bonsai 2 9B 实测
Potential_Block4598 · reddit · 2026-11-12
作者在一台 24GB 内存、12GB 显存的二手工作站上搭了一套极简本地 agent:Pi Agent + Bonsai 2 9B + SearXNG 搜索扩展。
- 实测速度约 30 tok/s,体验远超预期,主打速度和省心而非极致能力
- 刻意避免复杂框架和长 prompt,搜索用的也是他能找到的最简单的 pi search 扩展
- 9B 以上的模型在他机器上明显变慢;试过 nanbeige 但思考(过度思考)太多
- 他在考虑但不急于加:上下文压缩、子 agent 委派、带 sandbox 的记忆和 to-do list(Ralph loop)
帖子同时征集更合适的本地模型与扩展建议。
「编程与Agent」频道最新
- Passband 智能体从邮件对话自动预建看房日程并同步 Gcal — braelyn_ai · 2026-11-12
- AI 渗透平台 AntiFox 被曝入侵中窃取 AWS 生产密钥 — Thionne_WTZ · 2026-11-12
- AFK Pilot 推出独立桌面应用,无需 IDE 运行编码 Agent — PawelHuryn · 2026-11-12
- AFK Pilot 扩展聚合 6 家编码 Agent,装机量超 18 万 — PawelHuryn · 2026-11-12
- 阶跃 AI 联合四家公司在旧金山办 Agent Night Out,聚焦长时 Agent 成本 — StepFun_ai · 2026-11-12
- Reflection 开源编码 Agent Beam 限时免费,Zig 编写的 fx 仅 5.97MiB — evilrabbit_ · 2026-11-12