Ornith-1.5 三款模型开源 DFlash 投机解码草稿权重
jacek2023 · reddit · 2026-09-29
ornith-ai 在 Hugging Face 发布三个 DFlash 草稿模型检查点,分别为 Ornith-1.5-9B、Ornith-1.5-397B 和 Ornith-1.5-35B-A3B 提供投机解码(speculative decoding)加速。DFlash 草稿模型不是独立语言模型,须与目标模型在支持 DFlash 的推理环境中配合运行,仓库同时附带了 serving 配置。
「Infra」频道最新
- Shaw 吐槽反数据中心者:一边骂算力一边上网自相矛盾 — zealcaiden · 2026-09-29
- 模型推演 2030 年十亿 Agent 虚拟机背后的 CPU 需求与芯片商机 — AccBalanced · 2026-09-29
- Tessera 论文：检索驱动 KV 缓存复用，RAG 服务首字延迟降 3.6 倍 — _reachsumit · 2026-09-29
- Venice 代币化推理积分模式遭跟风，供给过剩隐忧浮现 — 0xJeff · 2026-09-29
- Model Casting：中途换激活函数+L1 稀疏目标，大幅稀疏化 FFN 降 FLOPs — francoisfleuret · 2026-09-29
- antirez：企业配额用完别慌，自建 DGX Spark 与 Mac Ultra 机群托底 — antirez · 2026-09-29