Hugging Face 将办量化直播:llama.cpp 与 vLLM 模型瘦身实战

HowDevelop · x · 2026-11-05

Hugging Face 宣布下周二举办量化主题直播,阵容包括 Merve Noyan、Maxime Labonne、bartowski 等量化领域核心贡献者,内容涵盖如何把模型缩小到笔记本上运行,以及 llama.cpp 与 vLLM 的量化实战经验。Merve Noyan 预告将讲解量化原理、双重量化、校准,以及 llama.cpp 的 k-quants、i-quants 等现代量化方案。

所属事件:Hugging Face 下周二直播 Local AI 301 讲模型量化(4 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →