极客实测：老旧笔记本跑起 1220 亿参数大模型

_TheGreatDreamer_ · reddit · 2026-08-13

一位硬核开发者出于测试目的，成功在一台早在大模型出现前就已淘汰的旧笔记本上，运行了参数量高达 1220 亿的 Qwen 大模型。

尽管受限于硬件，模型加载耗时 5 分钟，处理提示词花了 2 分钟，生成回复更是需要 14 分钟，但这一极限操作证明了 llama.cpp 等推理工具在量化技术上的强大进步——即使在极度羸弱的硬件上，超大规模模型的本地推理也已不再是物理上的绝对禁区。