用 logprobs 把 LLM 变成概率化决策分类器
michellechen · x · 2026-09-19
作者演示如何用现成语言模型模拟 jev 风格的「System One」决策模型:让模型从预定义选项中选择,读取 token 概率(logprobs)对每个选项打分,再归一化为概率分布,通过 jev 兼容 API 返回。为实现更快输出关闭思考模式,设 temperature: 0 以获得确定性最高的采样。最终输出是应用代码可以 threshold、排序或用于延迟决策的概率分布,而不是一段自由文本。
所属事件:开发者用 logprobs 让 LLM 输出概率化决策(2 条相关)→
「编程与Agent」频道最新
- 开发者把 Jev 接到屏幕监控上:不看 Jev 视频就自动开 10 个 — johnlindquist · 2026-09-19
- Omarchy 推出 crabbox:本地会话随时可切到云沙箱并投屏 VNC — steipete · 2026-09-19
- Gradio 6.28 发布:任意组件的实时状态可作为 ML 函数输入 — _akhaliq · 2026-09-19
- 开发者吐槽:同事 3 小时的活 Claude Code 一小时搞定 — vxnuaj · 2026-09-19
- iMCP 1.5.0 发布:新增通话记录服务、按工具开关与自动更新 — pcuenq · 2026-09-19
- Claude Code 的 AGENTS.md 是回退不是合并,老项目配置会冲突 — HaktanSuren · 2026-09-19