Le Chonk 开源量化版上线:FP8/NVFP4/GGUF 可本地跑
pcuenq · x · 2026-10-29
Hugging Face 员工 pcuenq 宣布 Le Chonk 的本地部署版本上线,提供 FP8、NVFP4 和 GGUF 多种量化格式。
- 量化版面向本地/端侧运行场景
- 作者调侃其适配「新的 512GB M5 Studio Ultra」——暗示模型体积巨大,消费级硬件难以承载
所属事件:Le Chonk 量化版上线,Mac Studio 可本地跑万亿参数(3 条相关)→
「模型」频道最新
- a16z 领投 Dream 1700 万美元种子轮,造推理物理空间的 Built World 模型 — a16z · 2026-10-30
- 投资人看好语音到语音模型:Phonic 表现出色 — graceisford · 2026-10-30
- 用户好评 OpenAI:Pro 用量翻倍,API 用量也纳入订阅 — Angaisb_ · 2026-10-30
- OpenAI 即日起将 Pro 与 Business Premium 用量上限翻倍 — Polymarket · 2026-10-30
- Gemini 4 Argon 登顶 RLE-Bench 4 项机器人任务,总分 72.4 逼近 GPT-6 Astra — daibond_alpha · 2026-10-30
- 传 GPT-6.5 Bel 预训练超 10 万亿参数,未经证实 — VraserX · 2026-10-30