实测:系统提示词和工具定义可占 API 调用 token 的 98%
behrouzbk · reddit · 2026-11-07
作者开源了 tokensaver 工具(MIT 协议、离线可用),用于量化每次 LLM API 调用中 system prompt、工具 schema 和用户消息各占多少 token,并给出每千次调用的成本和固定部分占比。在他自己的支持机器人示例中,固定部分竟占每次请求的 98–99%。
用法:
bash
pip install prompt-tokensaver
tokensaver request --system system.md --tools tools.json --user "a typical user message"
- --tools 支持 OpenAI 或 Anthropic 的工具 JSON,也可传完整请求体
- --json 输出便于接入 CI
配套截图还展示了 tokensaver optimize:自动精简提示词,示例中省下 32 个 token(42.1%),相当于每百万次调用节省 $80。
「编程与Agent」频道最新
- 用户分享编码 agent 实用技巧:小改动也用 /prototype 拿多方案挑选 — mattpocockuk · 2026-11-07
- Databricks 工程副总裁与 Neon 联创对谈:为 AI Agent 设计的数据库架构 — matei_zaharia · 2026-11-07
- 多模型聚合类编码应用正被大厂收编,剩下的都是开源 — petergyang · 2026-11-07
- 用一个文件夹让 Claude 记住你的业务,一劳永逸 — PrajwalTomar_ · 2026-11-07
- Linear AI 代码审查工具 Reviews 向全部套餐开放,含免费版 — julianlehr · 2026-11-07
- Stately 开源 SKILL:让 LLM 按五道校验门生成 Agent 状态机 — DavidKPiano · 2026-11-07