Unsloth 发布 Qwen2.5-72B 新量化模型:1-bit 版仅需 8GB 显存
cephaloform · x · 2026-08-20
Unsloth AI 发布了针对 Qwen2.5-72B 的新 GGUF 量化模型。其动态 V3 版本在 Div-300、KLD 等基准测试中准确率提升超 10%。最引人注目的是,团队同时发布了 1-bit 极致量化版本,仅需 8GB 内存即可运行,且保留了约 77% 的 BF16 精度性能。
「Infra」频道最新
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性:衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者:芯片供应链高度集中,硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16
- Khala 研报对比 peaq、THOR、BitRobot、Axis 四家机器人数据代币化项目 — 0xSammy · 2026-10-16