CoDA 框架在扩散 LLM 解码内执行安全策略,自适应注入成功率降至 0%

nandofioretto · x · 2026-10-28

arXiv 论文(2610.15177)提出 Policy-Constrained Diffusion Agents(CoDA):利用扩散语言模型逐轮全序列去噪的特性,在每一步去噪时把 token 分布投影到符合任务安全策略的集合上,从而在生成全程强制执行安全约束,且无需重新训练。在 4 套 AgentDojo 套件和 2 个扩散模型家族上评测,使用 oracle 策略时自适应 prompt 注入成功率达 0%。任务策略在 agent 接触不可信内容前由可信指令设定,去噪过程中受保护字段可被反复重审。