量化入门精选：9 篇必读论文从 QLoRA 到 1-bit LLM
East-Muffin-6472 · reddit · 2026-11-12
Reddit 用户整理了一份面向初学者的 LLM 量化（Quantization）入门论文清单，覆盖后训练量化、QAT 和 1-bit 权重三条主线，共 9 篇：
- BitNet：1-bit Transformer 扩展
- AWQ：激活感知权重量化
- The Era of 1-bit LLMs：1.58-bit 大模型
- EfficientQAT / LLM-QAT：量化感知训练
- LLM.int8()：8-bit 矩阵乘法
- QLoRA：量化模型高效微调
- SmoothQuant / ZeroQuant：准确高效的后训练量化
配套网站 papercase.dev 提供了社区排序的阅读路径，明确说明适合懂 transformer 的工程师、覆盖范围及未涵盖的新格式（如 NVFP4、MXFP4、GPTQ）。
「Infra」频道最新
- Anthropic 3 天在 AMD MI355X 上跑通 Claude，CUDA 护城河遭质疑 — udmrzn · 2026-11-12
- 开源推理工程指南:从 KV Cache 显存计算到 vLLM/SGLang 上线清单 — udmrzn · 2026-11-12
- 3090+64G 内存跑 QFN 量化达 70-80 t/s,作者求购 3-3.5k 欧元 Strix Halo 建议 — makkalot · 2026-11-12
- 开源 CLI 一键配置 FreeLLMAPI:验证密钥并自动生成预算均衡模型链 — biryaniwithachaar · 2026-11-12
- NVIDIA DGX Spark 上跑 ComfyUI:Docker Compose 部署方案公开 — Ok_Joke5408 · 2026-11-12
- Beff Jezos 感叹：日本连马桶都在跑 30 亿参数模型 — beffjezos · 2026-11-12