4G 显存老笔记本跑 Qwen 27B 编码,每秒不到 1 token 也能干活
Felix_455-788 · reddit · 2026-11-05
一位受制裁地区用户(无法访问 Claude/GPT 等 API)在 20G 内存、4G 显存的 8 代 i7 老笔记本上,用 LM Studio 本地运行 Qwen3.8 27B Q4,速度约 0.67–0.77 token/s,却已成为其主力编码模型:修复老项目 bug、用 DnSpy/Ghidra 做游戏 mod(如 grey hack、Cell to Singularity 等),配合 Pi agent 与 Opencode 使用。下一步计划下载 Ornith 1.5 122B A10B,用 mmap 加 Q3 K XL 量化尝试。
「编程与Agent」频道最新
- Sentry CEO 曝 AI Agent 自主开发 Restream 插件并主动申请权限 — zeeg · 2026-11-05
- 开源 TrnRT 引擎在单台 Trainium2 跑 GLM-5.3-Flash,每分钟 357 万 token — ycombinator · 2026-11-05
- raindrop 工程师力推自建内部 Agent：Slack 里就能干成大量工作 — zeeg · 2026-11-05
- 2026 年 Go 语言五大 GenAI 框架实测横评 — rseroter · 2026-11-05
- 如何让云端 AI Agent 访问客户内网工具?开发者征集生产实践 — JoleneAtCynapsa · 2026-11-05
- 《面向面向对象程序员的 Elixir 终极指南》开放在线阅读并配 AI 导师 — burkov · 2026-11-05