4GB 显存还能跑什么小型编码模型做智能体
GamerWael · reddit · 2026-07-27
一位只有 4GB 显存、40GB 内存 的用户在问：现在还有哪些小型模型适合做 agentic coding。
他提到最近 Gemma 4 和 Qwen 3.6 很火，但对自己的硬件来说太大了，所以想知道更小的模型里哪个最合适，以及在这种配置下是否还应该继续用 llama.cpp 来跑。
「编程与Agent」频道最新
- OMK 开源面向编码智能体的中立控制平面 — DMAE1133 · 2026-07-27
- 只靠提示词，做出 Trevor Noah 书页特效复刻版 — xiaohu · 2026-07-27
- 435 篇论文综述：LLM agent 的回滚、审计和恢复严重不足 — rohanpaul_ai · 2026-07-27
- 一个财务 agent 已能读账，下一步是放开支付 — 3lonStarl1nk · 2026-07-27
- AI Shipping Labs 公开 10 场 workshop 代码,覆盖 agent 部署与向量检索 — Al_Grigor · 2026-07-27
- Observer 用本地模型监控屏幕麦克风并自动告警 — alex_verem · 2026-07-27