连续扩散语言模型研究:TinyGSM 成绩从 4% 提升至 50%
brandondamos · x · 2026-10-14
新研究改进了连续扩散语言模型(CDLM):无需 self-conditioning,将 one-hot flow 在 TinyGSM 上的成绩从 4% 提升到 50%,并系统探索了 CDLM 的设计空间(如 self-conditioning 的必要性、token 嵌入方式等)。作者称连续扩散 LM 今年已从小众走向有力竞争者,但现有配方仍有诸多未解之处。
「研究」频道最新
- 仅 1 克!无线微型显微镜实现自由活动小鼠全皮层单细胞成像 — KordingLab · 2026-10-23
- Mike Frank 抛出超导可逆计算难题:能否用无偏置约瑟夫森结凑齐 BARCS 通用原语集 — MikePFrank · 2026-10-23
- Arc Institute 用基因组语言模型绘制原核非编码序列图谱 — tedgreenwald · 2026-10-23
- 同行评审的 AI 化:审稿人终于「进入附录」了 — abursuc · 2026-10-23
- Anthropic 用 Claude 为 100+ 开源库写下汇编级安全形式化证明 — AnthropicAI · 2026-10-23
- 研究提出 9 种策略为多 LLM 协作选模型,最优可超随机 36.1% — shangbinfeng · 2026-10-23