动态多字节预测加速分层语言模型推理
ohiostate · hf · 2026-08-19
该方法通过可变长度窗口和因果注意力掩码生成并行字节，加速了字节级分层语言模型。在质量损失极小的情况下显著提升了推理速度。
「研究」频道最新
- HRL 硅量子处理器登上 Nature：自主运行纠错码 — lxfater · 2026-08-19
- HRL在Nature发布硅量子处理单元：集成低温CMOS控制器，错误率大幅降低 — AryHHAry · 2026-08-19
- GS-Voxel:无需拟合的结构化隐变量,支撑大规模 3DGS 场景生成 — acvlab · 2026-08-19
- Luma 发布文生图扩散模型缩放定律研究 — lumaai · 2026-08-19
- 以能力为中心的数据设计助力通用图像生成 — Xingjian Wang · 2026-08-19
- 腾讯发布 DeepSeek 间接注入攻击评估 — tencent · 2026-08-19