拒绝采样登场:按 min(1, p/q) 概率接受草稿 token
cneuralnetwork · x · 2026-10-22
系列第五部分讲验证机制——拒绝采样:
- 对草稿分布 q 采出的 token x,以概率 a(x) = min(1, p(x)/q(x)) 接受;
- 若 p(x) ≥ q(x) 则必然接受,否则按概率接受;
- 关键细节:被拒绝后不能直接从 p 重采样,那样反而会破坏最终分布的保证(正确做法见下一条)。
所属事件:拒绝采样与残差采样保证输出分布不变(2 条相关)→
「研究」频道最新
- SophontAI 发布 Holon-S1:从常规病理切片预测基因表达 — iScienceLuvr · 2026-10-22
- Turing Post:神经网络『已被看透』?正反两方激辩可解释性边界 — TheTuringPost · 2026-10-22
- Holon-S1 未训练过骨肉瘤,却从病理切片发现医生确认的靶点 — iScienceLuvr · 2026-10-22
- ATEST 框架:按 GPU 负载动态省 48 倍推理能耗 — Mobina Kashaniyan · 2026-10-22
- 用 Claude 扫描百万点组合,发现四面体「七点球」新定理 — IgorCarron · 2026-10-22
- ROME 攻击:投毒 Python 库可篡改 GPU 上模型权重,改写事实且无痕 — SirJerryLion · 2026-10-22