利用 Logprobs 将 LLM 变成可调阈值的软分类器

有作者在《Hands-On Large Language Models》分类章节基础上探讨利用 LLM 单 token 预测的 logprobs 构建「软分类器」:相比只输出 positive/negative 结论的常规「硬分类」,logprobs 可给出选项的概率分布,使分类器阈值可调。作者还回顾了一年半前提出这一想法的博客,如今该预言得到验证。

2026-09-19 ~ 2026-09-19 · 2 条相关