Anthropic提示缓存5分钟TTL致LLM账单最高贵25%

gethackteam · x · 2026-08-15

一条推文指出,Anthropic的提示缓存默认5分钟TTL,使得LLM令牌账单最高贵25%。因为缓存写入需要付费,但上下文只能从缓存读取5分钟,导致成本增加。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →