Spring AI工具过多致提示词膨胀的解法
therealdanvega · x · 2026-07-07
在 Spring AI 中注册 47 个工具时，每个工具的 JSON schema 都会随每次请求发送，导致用户尚未提问就已产生约 5000 个提示 token。作者提出 Tool Search Advisor 方案：模型只看到一个搜索工具，按需找到所需的少数工具，使提示词规模不随工具目录增长而膨胀，并附带演示与讲解。
therealdanvega · x · 2026-07-07
在 Spring AI 中注册 47 个工具时，每个工具的 JSON schema 都会随每次请求发送，导致用户尚未提问就已产生约 5000 个提示 token。作者提出 Tool Search Advisor 方案：模型只看到一个搜索工具，按需找到所需的少数工具，使提示词规模不随工具目录增长而膨胀，并附带演示与讲解。