Qwen3.8-27B Ridge 量化版发布
alexcovo_eth · x · 2026-08-19
Qwen3.8-27B Ridge 是一个新的量化版本,保持了 27B 的智能水平,显存仅需 12GB,可在单张消费级 GPU 上运行。特点包括:
- 架构感知量化:GDN 状态保持 Q80 精度,避免通用 IQ2 的精度损失。
- 内置 MTP 推测解码:加速生成且零质量损失。
- 多模态支持:配合 mmproj 可处理图片(绘画、路标等)。
- 实测表现:成功运行了马克·吐温风格写作、树动画和 80 种语言测试,全部在本地单卡完成。
「Infra」频道最新
- 旧金山办「算力交易大厅」:买家卖家面对面签算力协议 — ctjlewis · 2026-10-16
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性:衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者:芯片供应链高度集中,硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16