研究者称新语言模型或让概率编程重新可用
AI 研究者 xuanalogue 分享其论文中关于用 LLM 做概率编程的章节,指出 GPT-3.5 时代的语言模型尚能充当较合理的先验和似然函数,直接利用其 logprobs 即可用于概率推断,但后续微调使模型校准性越来越差,导致这一用途受限。作者认为新一代语言模型有望改善校准问题,让 Jev 类模型使语言模型重新可用于概率编程,并对该方向的应用前景表示兴奋。
2026-09-28 ~ 2026-09-28 · 2 条相关
- xuanalogue:Jev 类模型让语言模型重新可用于概率编程 — xuanalogue · 2026-09-28
- 用 LLM logprobs 做概率编程:微调破坏校准,新模型或使其再可用 — xuanalogue · 2026-09-28