300 美元旧笔记本本地跑 MoE 模型:4GB 显存也够用
texhnolyze_d · x · 2026-11-21
网友 texhnolyzed 分享:花 300 美元买的旧 HP ZBook(老款笔记本 Xeon、Quadro P1000 仅 4GB 显存、64GB DDR4 内存),原本只当军队文书用的「可丢弃」笔记本,结果居然能在本地以平均 10 tok/s 跑一个未审查的 MoE Qwen 模型,回答质量不算垃圾——问了几题、生成几种风格的短篇故事,虽显笨拙但可读甚至有记忆点。他进一步提问:十年前的硬件上到底能榨出多高的智能上限,未来还有没有质量跃升空间。teortaxesTex 回复称即便 5 年前的笔记本也能享受一些「前 AGI 红利」。
「Infra」频道最新
- 超大规模云买英伟达是集中风险?分析师:别忽视需求才是共同点 — BenBajarin · 2026-11-21
- Together AI 研究主管将登 AI Dev 大会:AI 正成为自己的性能工程师 — DeepLearningAI · 2026-11-21
- OpenAI 迷恋 token 效率:下次飞跃或等到能扛住百万用户才发布 — VraserX · 2026-11-21
- 重庆赛力斯超级工厂:工业大脑调度 3000 台机器人造电动车 — HaydnBelfield · 2026-11-21
- 12GB 显卡跑 DeepSeek-V4.1-Flash 达 30 tok/s,附完整调优细节 — midokino · 2026-11-21
- 36M 参数开源工具让 LLM 本地「看」视频,CPU 即可跑 — Safe-Escape197 · 2026-11-21