一张图讲尽 LoRA/QLoRA/OFT 几何本质，作者感叹大半由 Claude 写成

aryaman2020 · x · 2026-10-15

aryaman 分享了一篇论文的配图，并称「这是一种艺术」——他发现论文大部分内容是 Claude 写的，但图和文字都非常漂亮。这张图把各种参数高效微调（PEFT）方法放在同一个几何框架下直观呈现：LoRA 是以预训练权重 θ₀ 为顶点的锥面；QLoRA 因量化把锥顶移到 κθ₀；Prefix tuning 的路径不指向 θ₀（会偏离原点）；BitFit 只沿坐标轴移动；OFT 对应 θ₀ 在旋转群下的轨道；(IA)³ 则是穿过 0 与 θ₀ 的环面轨道。一张图统一了几种主流微调方法的数学本质，兼具教学与审美价值。