用 logprobs 把 LLM 变成概率化决策分类器

michellechen · x · 2026-09-19

作者演示如何用现成语言模型模拟 jev 风格的「System One」决策模型:让模型从预定义选项中选择,读取 token 概率(logprobs)对每个选项打分,再归一化为概率分布,通过 jev 兼容 API 返回。为实现更快输出关闭思考模式,设 temperature: 0 以获得确定性最高的采样。最终输出是应用代码可以 threshold、排序或用于延迟决策的概率分布,而不是一段自由文本。

所属事件:开发者用 logprobs 让 LLM 输出概率化决策(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →