本地 AI 入门指南:Inkling、Qwen 与 Unsloth 组合上手
Retell · reddit · 2026-11-23
一篇面向新手的本地大模型部署教程,介绍如何用 Inkling、Qwen 系列模型配合 Unsloth 微调框架在本地跑起 AI,覆盖从环境搭建到模型使用的完整流程。
「Infra」频道最新
- MLX 修一个小 bug,Mac Studio 本地推理提速近 3 倍 — SumitGup · 2026-11-23
- 从业者谈自租 GPU 搭推理:Coop 可行,量化与投机解码仍是玄学 — sloppenheimer · 2026-11-23
- Nvidia 双面叙事:财报创纪录,同时深陷监管调查与治理风波 — emmanuelvivier · 2026-11-23
- Oracle 融资 200 亿美元加码 AI 基建,力撑 OpenAI 大单 — emmanuelvivier · 2026-11-23
- RX 6700 XT 跑量化小模型:分叉优化后 prefill 近千 tok/s — ireallydontcare00 · 2026-11-23
- 4 台 DGX Spark 实测:DeepSeek 编码配 Opus 规划更快更好,GLM 尚不胜任 — AIFlow_ML · 2026-11-23