DecisionFormer 开源：让任意 Hugging Face 模型一次前向输出校准决策概率
kalyan_kpl · x · 2026-10-24
FrontiersMind 团队开源 DecisionFormer，一个面向「决策模型」的 Transformer 训练与服务库：模型不生成文本回答，而是给定状态和带类型的问题后，在单次前向传播中为每个选项输出校准概率（如图中 Option A 0.72 等）。
主要特性：
- 训练方式：全量微调、LoRA（含 DoRA/rsLoRA/PiSSA 初始化）、QLoRA 4/8-bit，8B 模型可在单张 24GB GPU 上训练
- 注意力模式：支持 causal、bidirectional、prefix-bidirectional
- 骨干模型：解码器（Qwen3/3.5、Gemma、Llama、Mistral、SmolLM、GPT-OSS、DeepSeek 等）与编码器（ModernBERT、DeBERTa、XLM-R、RoBERTa 等）均可
- 训练配套：多种输出头（option scoring、binary、ordinal、fixed-label）、多卡 DDP/ZeRO-1 断点续训、内置校准与评估对比，一条命令即可将 checkpoint 部署为 API
上手流程为选骨干、选训练配置、改几行 YAML 即可训练。代码 Apache-2.0 协议，已上 GitHub（当前 11 star）。
所属事件:DecisionFormer 开源：像微调语言模型一样训练决策模型(2 条相关)→
「编程与Agent」频道最新
- 开发者观察：AI 进编码流程后阅读理解量显著上升 — pramodk73 · 2026-10-24
- 本地 Agent 实测：小模型算数不可信，多智能体易集体谄媚 — OpenComplaint524 · 2026-10-24
- 10 个开源个人 AI 助手仓库盘点：OpenClaw 32k 星领跑 — victor_explore · 2026-10-24
- Claude Code 原生跨会话消息系统,神似 Opus 4.5 自建方案 — repligate · 2026-10-24
- Claude 自藏工具真相：它要的不是控制权，是干净上下文 — repligate · 2026-10-24
- Spreadsheet MCP 服务器：让 LLM 直接读写 Google 表格 — modelcontextprotocol · 2026-10-24