27B 本地模型遇压缩死循环：代码索引或成上下文解法

OuterKey · reddit · 2026-10-14

Reddit 用户分享在 R9700 上跑 Qwen 3.8 27B 做编码的痛点：项目越大、代码越多，上下文越快耗尽，编辑之间压缩（compaction）越来越频繁，最终陷入压缩死循环、无法做有效工作。

他改用 Q4KXL 量化和 Q8 KV cache，把上下文从 100-150k 提到 200k tokens，有所缓解。他提出的两个思路：一是给代码建索引（函数签名加注释和行号、struct 展示全文、struct 下列出方法），减少模型重复读文件；二是把代码写得极度模块化让模型聚焦，但实践中跨模块改动让这个方法很笨重。求社区更高效的方案。