NeurIPS论文D-DOIT：免训练引导离散扩散模型适配黑盒生物奖励
新智元 · wechat · 2026-11-15
掩码离散扩散已成为DNA、蛋白质等生物序列生成的重要工具，但仅从预训练分布采样难以满足真实科研中「朝任务奖励生成」的需求：微调方法如DRAKES需要额外训练且常要求奖励可微，免训练方法（CG、SMC、TDS、SVDD）要么依赖梯度、要么开销随轨迹增长。
NeurIPS 2026论文提出D-DOIT（Discrete Doob-Oriented Inference-time Transformation），把奖励适配看作分布搬运问题，用随机过程中的Doob h-变换推导其在掩码离散扩散上的形式：对每步反向转移核按「下一状态与当前状态的未来价值h之比」做乘法重加权，使终点边缘分布恰好是奖励倾斜分布，模型参数完全冻结。为实现可执行性，作者用两个近似：
- 预测头h-估计器：每个候选用一次前向补全剩余掩码位置再打分，避免嵌套rollout，奖励只需可查询、无需可微；
- 有限候选的Doob加权选择：每步采样M个候选共享前向，按h估计值的ω次方概率选取；可选后期best-of-K分支对冲不可逆的揭开决策。
实验结果（三类任务、骨干均冻结）：
- HepG2增强子设计：D-DOIT-Q预测活性达6.19，超过需微调的DRAKES（5.61）；低预算配置LBOK-S在接近TDS耗时下把ATAC-Acc从40.0%提升到65.0%；
- 细胞类型特异性设计：D-DOIT-Q把特异性ΔR推到0.119，明显优于CG/SMC/TDS；
- 蛋白质逆折叠：稳定性与结构联合成功率68.1%，高于SMC（63.6%）和TDS（62.9%）。
局限包括近似偏差、尚缺湿实验验证及高质量配置的推理成本。论文：arxiv.org/abs/2610.04938，代码：github.com/WeiminWu2000/D-DOIT。
「研究」频道最新
- 从零学分布式训练:Reddit 网友精选 10 篇入门资源清单 — East-Muffin-6472 · 2026-11-15
- 训练时加随机噪声并要求价值观保持稳定,可提升对齐泛化 — Sauers_ · 2026-11-15
- medRxiv 新预印本:用基因组变异与纵向 EHR 建模疾病轨迹 — anshulkundaje · 2026-11-15
- Llama 405B 基座模型原生模拟 o1 思维链,展现分布外上下文学习能力 — Sauers_ · 2026-11-15
- Magic称预训练效率提升逾10倍，约50万美元复现DeepSeek V4 Base — oran_ge · 2026-11-15
- OpenDS-World 基准：12 个前沿模型最强者仅答对 39% 真实网页研究任务 — jiqizhixin · 2026-11-15