Nace AI 开源 Drex 决策模型:35B 内达 SOTA,延迟仅 183ms

m4rkGS · reddit · 2026-11-07

Nace AI 发布 50 页技术报告《Towards Foundation Decision Models: Drex》,称是首个系统定义并公开「决策模型」训练方法的报告。决策模型是非自回归的判别式推理:给定 state(文档/记录/agent 上下文)与问题,直接输出选项的概率分布,目标是低延迟、低成本、输出稳定。

模型:四个开源模型——Drex DLM(8B)、v1.5(9B)、v2.0(35B/3B 激活 MoE)、Drex Max(27B),含 Dense Transformer、Diffusion LM、MoE 等架构,支持双向/稀疏注意力与指针决策头。

训练:约 115 万条已验证决策记录全参 SFT 为主,辅以选项顺序一致性训练、RLAF(基于验证结果与 judge 反馈的强化学习)与置信度校准。消融显示大部分提升来自 SFT,RLAF 增益较小但改善校准。

成绩:Max 在 Decision Index 0.4.1 上创决策模型新 SOTA(67.52,对比 60.70);128K 上下文延迟 <100ms(典型请求 183ms vs GPT-6 Sol 2.0s、Claude Opus 5.5 3.5s);v2.0 校准 ECE 1.37%;选项乱序仅改变 4-6% 个案答案,总体准确率不变。

权重提供 safetensors 与 GGUF,支持 llama.cpp/Ollama 本地运行,适合 agent 路由、工具选择等场景。

所属事件:Nace AI 开源决策模型 Drex:单次前向直出选项概率(8 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →