58k 星 agent 记忆项目 hindsight 用 0.8B 小模型替代大模型判断,成本低 2.5 倍
victor_explore · x · 2026-11-04
MIT 背景、58.6k star 的开源项目 hindsight(vectorize-io)发布了一个 0.8B 小模型,专门接管 agent 记忆系统里「这是新信息吗?值不值得存?」这类高频判断调用。
- 核心思路:agent 记忆的隐形成本在于每次去重/相关性检查都是一次完整 LLM 调用;用专门小模型替代后,在 gemini-3.8-flash 底座上测得成本降 2.5 倍、模型耗时降 1.9 倍,且评测分数更高
- 官方基准:对 12 个模型(含 gemini、claude-haiku、gpt、deepseek、glm、qwen 等)做质量-成本对比,加 hs-decide-1-flash 后多数模型移向「最优区间」(更便宜且更好)
- 项目为 MIT 协议,提供 Docker/Helm 部署、CLI、多客户端集成与系统评测套件
「编程与Agent」频道最新
- 腾讯 Hy4 模型 OSWorld 得 78.9 分，开源权重缩小 agent 差距 — heyshrutimishra · 2026-11-04
- 腾讯 Hy4 基准图曝光：OSWorld 78.9 分逼近 Claude Opus 5.5 — heyshrutimishra · 2026-11-04
- Butterfly 工具用图数据库回溯多智能体故障,定位准确率达 62.5% — JeremyCMorgan · 2026-11-04
- 免费课程：生成式媒体 Agent 的四大生产难题与解法 — Al_Grigor · 2026-11-04
- 额度重置夜：Codex 恢复 100%，Claude 仅剩 10% — rudrank · 2026-11-04
- 自我改进软件不可避免：让应用读取自身信号并自动修复 — bibryam · 2026-11-04