AI规划中的token膨胀问题
teodorio · x · 2026-07-10
作者指出，AI 工具被广泛用于代码之外的文档、项目规划、法律、销售等场景时，会出现一个代码世界里较少见的问题：**没有自然的 token 上限**。代码一旦过长会直接损害运行和可读性，但在文档和方案里，模型往往会持续扩写、重复和稀释信息，结果是内容越来越多，却不一定更有价值。 他认为这种问题会在智能体协作里被放大：代理会分散在多个文档、数据库和仓库中，反复总结、反复丢失信息，导致需要更多 token 才能逼近解决方案。作者不反对 AI 用于执行，但认为把它大量用于规划和架构会很低效，未来需要在大规模场景下做更高效的 compaction。