新研究:生成模型可在任意位置插入Token
thjashin · x · 2026-07-06
传统自回归模型只能在序列末尾追加token,表达能力受限。该论文提出「插入式生成模型」,允许在任意位置插入token,理论表达能力更强,但难以用标准最大似然训练。
研究引入可扩展的变分学习方法解决训练难题,为超越AR范式的生成模型提供了新思路。
「研究」频道最新
- YC 活动上称,生物基础模型必须模拟细胞而非只会描述 — david_van_dijk · 2026-07-27
- 谢雅琪加入 UIUC 任助理教授,招募智能体与机器人方向学生 — dhruv2038 · 2026-07-27
- Kimi K3 在网络安全上很强,但 token 效率卡住了评测 — teortaxesTex · 2026-07-27
- ARC AGI 3 应该保持私有,不该公开示例和数据集 — flowersslop · 2026-07-27
- ExploitGym 可能只有六到七成任务可解,引发 OpenAI 作弊争议 — max_paperclips · 2026-07-27
- 5090 本地测试:80k 上下文下 Qwen Q6 速度掉到 15 tok/s — LFAdvice7984 · 2026-07-27