DNeo:改进并行草稿模型的目标特征编码加速推理
cerebras · hf · 2026-11-19
Hugging Face 上发布的 DNeo 论文提出一种轻量级特征编码方法,配合拒绝记忆(rejection memory)与架构增强,通过改进 speculative-diffusion 草稿验证环节来加快大语言模型推理速度。
「Infra」频道最新
- Google 工程师 rakyll 转向 Kubernetes,要在编排层做 agentic 计算 — rakyll · 2026-11-19
- YC 项目 Tilion 发布:号称最快最隐蔽的 agent 浏览器基建 — joshalbrecht · 2026-11-19
- vLLM v0.34.0 发布:1061 次提交,GB200 解码提速近 2 倍 — vllm_project · 2026-11-19
- 上线仅 19 天,Bittensor 上 Cascade MoE 拿下 GIFT-Eval 预测基准领先成绩 — const_reborn · 2026-11-19
- Sciforium 让 DeepSeek-V4.1-Flash 在 4 张 AMD MI355X 上跑出 P90 1129 tokens/秒 — rohanpaul_ai · 2026-11-19
- Agent 即时生成代码怎么跑?GKE 沙箱方案拆解三大风险 — rseroter · 2026-11-19