Hugging Face 将办量化直播:llama.cpp 与 vLLM 模型瘦身实战
HowDevelop · x · 2026-11-05
Hugging Face 宣布下周二举办量化主题直播,阵容包括 Merve Noyan、Maxime Labonne、bartowski 等量化领域核心贡献者,内容涵盖如何把模型缩小到笔记本上运行,以及 llama.cpp 与 vLLM 的量化实战经验。Merve Noyan 预告将讲解量化原理、双重量化、校准,以及 llama.cpp 的 k-quants、i-quants 等现代量化方案。
所属事件:Hugging Face 下周二直播 Local AI 301 讲模型量化(4 条相关)→
「编程与Agent」频道最新
- BigCommerce 推出 MCP Server,AI 助手可直管电商订单 — modelcontextprotocol · 2026-11-05
- EmailMCP 把 AI 收发邮件做成订阅生意:读信免费,发信 $9.99/月 — modelcontextprotocol · 2026-11-05
- Todoist 团队用自建 Doistbot 做代码审查,每次不到 2 美元 — dscape · 2026-11-05
- Luke Wroblewski 发 Intent:开发者转向大规模 AI Agent 协调 — LukeW · 2026-11-05
- Every 办首届 AI 大会 Thesis:2027,聊老企业怎么用上 agent — soumitrashukla9 · 2026-11-05
- 开源 Zenod:让 Claude 和 Codex 共享一份跨工具记忆 — jordimr · 2026-11-05