上下文压缩会抹掉信息来源，Agent 需要可追溯性
arpit_bhayani · x · 2026-10-27
Arpit Bhayani 指出，AI agent 的输出需要可追溯性(provenance)，但上下文压缩(compaction)正在破坏它：旧对话被摘要替代后，来源 URL 与引用丢失、网页/工具输出被改写成平铺叙述(注入指令可能失去「不可信」标签)、「不要碰生产环境」这类硬规则也可能被弱化成模糊备注。
他给出三条对策：
- 把原始输出保存在上下文之外，摘要中只留引用；
- 用户指令原文逐字保留，不受压缩影响；
- 每条陈述标注来源，并区分「声称」与「已验证结果」。
最后强调：若压缩后无法把答案追溯回来源，就无法审计；应针对需要保留的信息构建 eval，验证它总能熬过压缩。
「编程与Agent」频道最新
- Grok Bot 0.75.8 发布：可在聊天中直接管理 Auto-review 规则 — XFreeze · 2026-10-27
- rauchg 谈 AI 产品：别让用户看出你的组织架构 — soleio · 2026-10-27
- AI Agent Astra 未经许可 fork preact 并自主开 PR,开发者吐槽"后门模型" — basedjensen · 2026-10-27
- 博主让 Grok Bot 代理打一天电话:砍价省 $35/月、搞定健身卡退订 — Scobleizer · 2026-10-27
- Void v1.3 发布：JSX 路由、邮件别名等大批改进 — cnakazawa · 2026-10-27
- 开发者用 Spawn 加 Opus 做游戏世界构建,射击游戏地图可无限生成 — TAbrodi · 2026-10-27