Le Chonk 开放权重本地化:FP8、NVFP4 与 GGUF 全齐
pcuenq · x · 2026-10-29
Hugging Face 员工 pcuenq 表示该开放模型发布的全部细节见博客文章,并放出了本地部署版本「Le Chonk goes local」,提供 FP8、NVFP4 和 GGUF 多种量化格式,可直接跑在本地硬件上——他还调侃适合「512 GB 内存的 M5 Studio Ultra」。适合想本地推理该开源模型的开发者查看官方博客获取权重与细节。
「Infra」频道最新
- 微软谷歌亚马逊2026年AI基建开支预计达6000亿美元 — PeterDiamandis · 2026-10-29
- Sam Altman想让OpenAI机器人来建数据中心:AI自我扩张闭环 — VraserX · 2026-10-29
- 双 3090 跑 Qwen3.8-27B INT4 量化版,速度远超 FP8 — Travnewmatic · 2026-10-29
- Junction 计划:两周芯片制造训练营落地班加罗尔,招募全印学生 — itsarnavb · 2026-10-29
- Unsloth 发布 Le Chonk 量化版:1bit 压缩 80% 保留 91% 精度,Mac Studio 可跑万亿参数 — danielhanchen · 2026-10-29
- 英国数据中心过剩预警:规划产能仅 13% 开工,超四成无租户 — ersatzben · 2026-10-29