实测:系统提示词和工具定义可占 API 调用 token 的 98%

behrouzbk · reddit · 2026-11-07

作者开源了 tokensaver 工具(MIT 协议、离线可用),用于量化每次 LLM API 调用中 system prompt、工具 schema 和用户消息各占多少 token,并给出每千次调用的成本和固定部分占比。在他自己的支持机器人示例中,固定部分竟占每次请求的 98–99%。

用法:

bash

pip install prompt-tokensaver

tokensaver request --system system.md --tools tools.json --user "a typical user message"

配套截图还展示了 tokensaver optimize:自动精简提示词,示例中省下 32 个 token(42.1%),相当于每百万次调用节省 $80。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →