不用 GPU 也能跑:量化开源模型已在普通笔记本上顺畅运行两年多
mattwbaker · x · 2026-10-08
作者提醒大家：其实早在两年多以前，就可以在没有 GPU 加速的普通笔记本上运行量化开源权重的聊天模型，体验「慢一点但相当不错」。这对想零成本本地部署开源 LLM 的用户是可行路线。
「Infra」频道最新
- OpenRSI 智能体产出 3 项优化被 SGLang-Omni 官方合入 — yuz9yuz · 2026-10-08
- 光收发芯片为何输出波导要倾斜？作者再追问端面角度设计的门道 — jwt0625 · 2026-10-08
- 中国电力过剩反成数据中心红利，算力供应链现「用电反差」 — teortaxesTex · 2026-10-08
- NAVER 提出 DLoop:投机解码连续起草多轮再验证,加速提升 5-41% — naver-ai · 2026-10-08
- 变压器交货从500天飙至1120天，YC 合伙人称之为创业新机会 — ycombinator · 2026-10-08
- MIT 研究员用 AI 给数据中心节能，降低宕机与能耗 — nordicinst · 2026-10-08