用贪心与进化搜索找自定义量化方案，兼顾显存与精度
giffmana · x · 2026-10-21
Tim Darcet 介绍其量化研究：通过贪心搜索和进化搜索自动寻找自定义量化方案，目标是最小化显存占用与困惑度(ppl)误差，并找到两个最优权衡点，作者确认结果达到帕累托最优。giffmana 调侃式追问为何不用 agentic search,猜测作者下一步可能会做这个方向。
所属事件:Meta 小团队数月从零训出 30B 模型并压进 32GB 显卡(5 条相关)→
「研究」频道最新
- 给 AI 一万美元做开放研究：GPT-6 Astra 与 Claude Fable 5.1 论文仍被专家拒稿 — sayashk · 2026-10-21
- 斯坦福团队推 ScholarCatalyst:专测 AI 检索可启发科研的早期文献 — lateinteraction · 2026-10-21
- 借助 AI 沟通发现 17/19/23 曲线简单对称 Venn 图，经 Lean 4 形式化验证 — pickover · 2026-10-21
- Pathway CEO 撰文:Transformer 不够,超级智能需要会积累经验的模型 — schwentker · 2026-10-21
- Laude Institute 资助斯坦福 CLM:面向快速决策的对比语言模型 — Azaliamirh · 2026-10-21
- UC Berkeley 发布 Actor-Gatherer 框架:解耦推理与上下文管理 — adityagp · 2026-10-21