XTC 采样论文获 NeurIPS 收录,本地引擎已可用
@zivravid 团队提出的 XTC(Exclude Top Choices)采样方法论文被 NeurIPS 2026 接收,且已被 llama.cpp、ExLlamaV2、text-generation-webui 等开源推理引擎内置,本地跑模型的用户现在即可直接使用。
已确认
- 论文被 NeurIPS 2026 收录,为 XTC 提供了正式的形式化定义与系统评估,填补了此前的空白
- 机制:当两个及以上 token 的概率超过阈值 τ 时,以概率 ρ 移除其中除最不可能者之外的全部候选并重新归一化;当模型本身很确定时不干预
- 核心观察:主流采样器要么截断长尾(top-p、min-p),要么整体拉平分布(temperature),而创意输出平庸很大程度源于头部高概率 token 被反复选中,XTC 直击这一问题
- 跨模型家族实验显示:XTC 让创意输出更多样、更少重复,人类评分者在创意维度上更偏好它,且流畅度无损失;同等多样性下对指令遵循的伤害远小于调高 temperature,并可与 temperature、min-p 叠加使用
- 致谢贡献者:XTC 提出者 Philipp Weidmann、Judah Goldfeder、Sanjay Basu,以及实际跑实验的 @Hellisotherpe10
为什么重要
- XTC 首次以论文形式系统化「排除头部候选」这一创意采样思路,为解决模型输出平庸、重复的问题提供了新工具
- 已进入主流开源推理引擎,普通本地用户无需等待即可体验,实用性落地速度快
- 相比单纯调高 temperature,在多样性与指令遵循之间取得了更好的平衡
2026-09-26 ~ 2026-09-26 · 5 条相关
一手来源
- XTC 采样论文获 NeurIPS 2026 收录,直击创意平庸问题 — ziv_ravid ·
- XTC 采样已内置 llama.cpp 等引擎,本地用户今日可用 — ziv_ravid ·
- XTC 采样机制:概率性排除头部候选,激发非常规续写 — ziv_ravid ·
- 【源头】XTC 采样论文获 NeurIPS 2026 收录,直击创意平庸问题 — ziv_ravid · 2026-09-26
- 【源头】XTC 采样机制:概率性排除头部候选,激发非常规续写 — ziv_ravid · 2026-09-26
- XTC 采样实验:创意输出更多样,人类评分者更偏好 — ziv_ravid · 2026-09-26
- 【源头】XTC 采样已内置 llama.cpp 等引擎,本地用户今日可用 — ziv_ravid · 2026-09-26
另有 1 条近重复转述:ziv_ravid