「AGI 跑在你的笔记本上」:Unsloth 量化版本地实测引围观
LeviTurk · x · 2026-09-02
用户 LeviTurk 感谢 Unsloth 提供量化模型,晒出在本地笔记本上运行大模型的截图,并喊出「AGI runs on your laptop」。
帖面信息有限,更像开源量化模型本地部署效果的一手反馈,具体模型与硬件配置需看原帖配图。
「Infra」频道最新
- Cohere 研究副总裁 Sarah Hooker：推理时代正在改写十年 GPU 设计逻辑 — sarahookr · 2026-09-02
- Sarah Hooker:测试时计算与智能体工作流正迫使 AI 基础设施重构 — sarahookr · 2026-09-02
- 1.1k星本地LLM资源大全：平台、推理引擎、UI一站式收录 — tom_doerr · 2026-09-02
- Celeron N5095 实测:Ollama CPU 推理快 llama.cpp 16-35%,Vulkan 降温 27℃ — tre7744 · 2026-09-02
- H100 显存研究勘误：从 DeepSeek V3 开源 trace 反推 SwiGLU 量化内核细节 — ezyang · 2026-09-02
- 求 DGX Spark 平替:想用千元级低功耗方案跑 15-20GB 小模型 — fuse1921 · 2026-09-02