llama.cpp 参数自动优化工具
bigattichouse · reddit · 2026-07-14
作者介绍了一个用于自动优化 `llama.cpp` 参数的工具，目标是在本地模型和当前硬件组合下，系统性寻找更合适的推理设置。 方法分两步：先用 **Morris Elementary Effects** 找出哪些参数会对结果产生独立或交互影响；再对关键参数做 **Taguchi/参数扫表**。作者表示这套流程并不完美、耗时也长（自己跑了一整夜），但确实能发现一些原本没想到的配置。
bigattichouse · reddit · 2026-07-14
作者介绍了一个用于自动优化 `llama.cpp` 参数的工具，目标是在本地模型和当前硬件组合下，系统性寻找更合适的推理设置。 方法分两步：先用 **Morris Elementary Effects** 找出哪些参数会对结果产生独立或交互影响；再对关键参数做 **Taguchi/参数扫表**。作者表示这套流程并不完美、耗时也长（自己跑了一整夜），但确实能发现一些原本没想到的配置。