实测开源模型「决策打分」：比生成概率快 7 至 54 倍
vykthur · x · 2026-09-27
作者探究了 Jev 这类「决策模型」如何在毫秒内返回带概率的答案，以及概率是否校准，并在开源 Qwen2.5 1.5B 与 7B 上做了实验，写了交互式文章。
决策模型的工作流程分四步：
- 定义决策：一个状态加一组选项；
- 把它写成一句待补全的句子，选项附在末尾；
- 把每个选项作为补全并行打分（不生成文本）；
- 归一化分数，选最高者为决策。
在开源模型上的三个有趣结果：
- 打分比让模型生成概率快 7 到 54 倍；
- （其余结果见原文）。
「编程与Agent」频道最新
- Matt Pocock:课程最惊艳的不是 Agent,而是 DDD 领域驱动设计 — mattpocockuk · 2026-11-11
- AI 智能体日夜运转一个月,复现法国气象局 AROME 天气模型 — IgorCarron · 2026-11-11
- 让 AI 角色扮演「高执行力传奇玩家」,提示词的隐藏秘诀 — tokenbender · 2026-11-11
- Agent 验证不设截止时间等于没验证：一份防护设计准则 — Key-Register-1969 · 2026-11-11
- 免费开源课程：从零构建 Claude Code 克隆，8 文章 6 视频讲透 harness 工程 — blaizedsouza · 2026-11-11
- 百度开源文心 5.5 Flash Preview:连写 11 小时代码做出武侠游戏 — xiaohu · 2026-11-11