rasbt 推理缩放视频课:手写采样与自洽投票,准确率提升超 2 倍
rasbt · x · 2026-09-19
Sebastian Raschka 发布「推理缩放」系列第 1 部视频教程(附完整分章目录),从零实现推理时缩放技术:
- 核心内容:改造文本生成函数(temperature 缩放、top-p 过滤、多项式采样)以产出多样化输出,用于 self-consistency 与 best-of-N,答案准确率提升超过 2 倍
- 覆盖主题:CoT 提示、next-token logits 与贪心解码、softmax 与 token 概率、温度采样、top-p 过滤逐步实现、采样与 LLM 水印、self-consistency 与多数投票
- 实证:在 MATH-500 上给出结果,并讨论准确率与算力的权衡
- 下一步:self-refinement
约 1.5 小时内容,含 Notebook,适合工程实现者直接照做。
所属事件:rasbt发布推理缩放视频课自洽投票提升准确率(2 条相关)→
「研究」频道最新
- GPT-6 Astra 机器人成绩是scaling突破还是工具红利?博主深度拆解 — GeorgiaChal · 2026-09-19
- 仅9.9%顶尖社会学论文提供复现包，半数材料残缺无法验证 — RexDouglass · 2026-09-19
- 贝叶斯 vs 频率学派:更新信念 vs 长期频率两种概率观 — mdancho84 · 2026-09-19
- 贝叶斯统计入门:把概率理解为信念而非频率 — mdancho84 · 2026-09-19
- 贝叶斯系列第 2 课:贝叶斯定理如何随证据更新假设概率 — mdancho84 · 2026-09-19
- 数据科学老手复盘：两年摸索才吃透贝叶斯定理的价值 — mdancho84 · 2026-09-19