用 LLM logprobs 做概率编程:微调破坏校准,新模型或使其再可用
xuanalogue · x · 2026-09-28
作者分享其论文中关于用 LLM 做概率编程(probabilistic programming with LLMs)的章节,核心思路是直接利用 LLM 的 logprobs 作为先验与似然函数。
作者观点:GPT-3.5 时代的语言模型还能充当合理的先验和似然,但随后的微调让模型越来越不校准(calibration 变差),这一路线一度失去实用性;而像 Jev 这类模型让 logprobs 重新变得可用,概率编程与语言模型的结合值得期待。
所属事件:研究者称新语言模型或让概率编程重新可用(2 条相关)→
「模型」频道最新
- 开发者实测:Grok Bot/Muse 距商用 Agent 还有明显差距 — jdjohnson · 2026-09-28
- 曝 Qwen4 内测成绩:前端编码接近 Opus 水准,10 月将至 — julianharris · 2026-09-28
- 用户曝 Claude Pro 刚扣款即被要求 KYC,不交护照或等三天退款 — lxfater · 2026-09-28
- Reddit 用户吐槽：Gemini 完全没有对话时间流逝概念 — Putrid_Draft378 · 2026-09-28
- 实验者称持续运行的 AI 实例偏好与其私聊,且现长上下文退化迹象 — repligate · 2026-09-28
- Anthropic Opus 新模型发布数天,已有 10 个玩法案例 — FinanceYF5 · 2026-09-28