从业者实测:监控工具调用序列比读 CoT 信号更强
joshua_saxe · x · 2026-09-04
Joshua Saxe 基于自己的实践经验回应 CoT 监控价值的争论：他认为 CoT 有用但信号密度偏低，不如直接查看截至时刻 t 的工具调用 n-gram 序列，并根据轨迹推断来门控下一步工具调用。
这是一个来自一线安全实践者的具体监控方案对比——用可观测的行为序列替代模型内心独白做 agent 异常检测，并@了另一位研究者征求看法。
所属事件:从业者梳理 Agent 时代安全框架：监控与生产力难两全(4 条相关)→
「编程与Agent」频道最新
- OpenAI 发布 GPT-6 Astra:电脑上能做的事它都能替你做 — astralmatrix · 2026-09-04
- Reddit 讨论：你真的在日常依赖哪些 AI 写的应用？ — LocustKitten · 2026-09-04
- Chromium 老兵驳「内联样式慢」论:共享样式表才是性能关键 — mohamedmansour · 2026-09-04
- 拆解 Ollama 代码：一个 LlamaServer 接口如何驯服 LLM 服务复杂度 — Mahmoud_Zalt · 2026-09-04
- Codex 上下文压缩思路获验证:不做破坏性摘要+让模型检索旧上下文 — lateinteraction · 2026-09-04
- Grok Bot 实用技巧:把电脑变主机,手机远程指挥它干活 — dean_rie · 2026-09-04