开源 HaiKIT:工具结果不进上下文,模型只读摘要省 97% token
Head_Inspector2200 · reddit · 2026-10-30
作者针对 agent 常见痛点提出模式:工具返回 47 行数据全塞进上下文每轮多花约 2000 token,而让模型自己总结又会产生幻觉。HaiKIT(MIT,TypeScript)把每次工具结果拆成两个通道:
- 模型通道:由开发者编写的摘要(47 条航班仅 67 token),预先算好最便宜、最快等关键结论,并附带句柄
- UI 通道:完整数据直接流式渲染到浏览器组件,不进入上下文
- Dereference:模型通过 queryui 查询句柄,返回值必须来自 cap 函数,防止全量过滤撑爆上下文
- Elicit:工具发 tooluse 不带 toolresult,回合挂起,用户点击作为结果返回
- 注入边界:浏览器只能发 {handle, action, value},无法指定工具或目标
提供 Claude 和 OpenAI Responses API 适配器、带 fencing turn lease 的 Postgres 存储。
「编程与Agent」频道最新
- 开发者类比马斯克管工厂:Agent 工程就是盯瓶颈、半夜起来推一把 — robleclerc · 2026-10-30
- Agent 写代码一天吐 35GB JSON,开发者用 btrfs zstd 压缩省 20 倍磁盘 — mgostIH · 2026-10-30
- Agent 说「done」没撒谎:它回答的是另一个问题 — AIGODSEND · 2026-10-30
- 8GB 显卡本地跑通:开源电影工作室 Kinoloom 基于 ComfyUI 发布 — Dry-Acanthisitta-652 · 2026-10-30
- 黑五购物 agent 点子:让 agent 自动找折扣并在最优时机下单 — jeff_weinstein · 2026-10-30
- Sentry 创始人长文:如何让 Agent 拥有「一点点确定性」 — zeeg · 2026-10-30