llama.cpp 修复正则重复编译
Bulky-Priority6824 · reddit · 2026-07-12
llama.cpp 发布了 **b9966** 版本,修复了 `-sm tensor` 场景下的一个性能问题:原先在 decode 线程里会为每个 token、每个 tensor 重建 29 个正则表达式,导致大量不必要的 CPU 开销。 这次修复把这些正则改为缓存复用,**行为不变,但 decode 线程更省 CPU**。如果你在生产环境里使用 `-sm tensor`,可以考虑尽快升级。