128GB 本地 LLM 服务器月跑 8000 万 Qwen3 生成 token,电费仅 6 美元
No-Fuel-9202 · reddit · 2026-09-26
楼主分享了自己 128GB 内存的 GMKtec X2 本地 LLM 服务器的使用情况:在均衡性能设置下,每月可生成约 8000 万个 Qwen3.8 Flash Next token,电费仅约 6 美元;日常实际用量约 3000 万 token/月。他还提到曾用 pi.dev 编程代理的 autoresearch 扩展优化自己 astrometry 应用的关键函数性能。如今代码优化空间耗尽,剩余算力闲置,他在纠结是继续完善 Karpathy 的 wiki 还是给自己的代码库做 RAG,并征求社区更有创意的利用方案。
「编程与Agent」频道最新
- AI 智能体日夜运转一个月,复现法国气象局 AROME 天气模型 — IgorCarron · 2026-11-11
- Agent 验证不设截止时间等于没验证:一份防护设计准则 — Key-Register-1969 · 2026-11-11
- 免费开源课程:从零构建 Claude Code 克隆,8 文章 6 视频讲透 harness 工程 — blaizedsouza · 2026-11-11
- 百度开源文心 5.5 Flash Preview:连写 11 小时代码做出武侠游戏 — xiaohu · 2026-11-11
- mcp-slim 零配置 MCP 代理:schema 与输出 token 削减 50–80% — Leading_Strain3682 · 2026-11-11
- Currents 开放 CI 测试 MCP 服务器:43 个工具加权限隔离设计 — sumitsaurabh121 · 2026-11-11