AI功能上线即失控：真实用户如何把Token成本烧成天文数字
Busy-Yogurtcloset617 · reddit · 2026-08-12
一位开发者分享了将 AI 功能推向生产环境后遭遇的“成本失控”教训，引发了关于如何控制 Token 消耗的讨论。
- 成本爆炸原因：在测试阶段表现正常的 AI 功能，遇到真实用户后成本飙升。用户经常提交超长问题、粘贴大量 CRM 文本，并在多轮对话中不重置上下文。
- 检索与上下文缺陷：系统的检索层重复发送相同的片段，加上庞大的系统提示词和完整的对话历史，导致每次请求的 Token 数量极其庞大。
- 优化方向：作者指出，解决该问题不能仅靠减少 Token，还需要优化文本分块、对检索内容去重、限制历史记录长度，并在延迟和准确率之间做出权衡。
「编程与Agent」频道最新
- 开发者分享基于 MCP 打造 AI 首席参谋长工作流 — ayushtweetshere · 2026-08-12
- 未来软件形态预测：AI智能体将让代码沦为“底层内核” — Fowe · 2026-08-12
- 开发者发现 OpenAI Codex 底层竟调用 Claude 启动子智能体 — cramforce · 2026-08-12
- 开发者实测：让AI修Bug，它竟自曝只有50%把握 — _jaydeepkarale · 2026-08-12
- 探讨基于 Claude Code 等工具开发插件的商业模式 — doooyle · 2026-08-12
- 构建本地极简Agent工作流：SearxNG搜索与推理预算控制实践 — use_your_imagination · 2026-08-12