从业者实测:监控工具调用序列比读 CoT 信号更强
joshua_saxe · x · 2026-09-04
Joshua Saxe 基于自己的实践经验回应 CoT 监控价值的争论：他认为 CoT 有用但信号密度偏低，不如直接查看截至时刻 t 的工具调用 n-gram 序列，并根据轨迹推断来门控下一步工具调用。
这是一个来自一线安全实践者的具体监控方案对比——用可观测的行为序列替代模型内心独白做 agent 异常检测，并@了另一位研究者征求看法。
所属事件:安全专家拆解AI安全乱局：安全、对齐与政策各管什么(9 条相关)→
「编程与Agent」频道最新
- Skills/MCP/RAG/Memory 一张图分清：agent 四类知识机制各管什么 — MaryamMiradi · 2026-10-21
- 客服拒与 AI 对话，用户的 agent 隐瞒身份继续维权 Xfinity — MoonL88537 · 2026-10-21
- Every.to《Codex 是如何诞生的》公开采访原文供读者用 agent 核查 — every · 2026-10-21
- 一条提示词直出 Blender 素材：Voyager+Opus 5.5 全程零配置 — ravisparikh · 2026-10-21
- 航空业的数据溯源思路：智能体如何在图结构数据上拼证据 — colinmcnamara · 2026-10-21
- 让 Claude Code 独立执导 MV：6.5 小时、765M 输入 tokens 完成 — colinmcnamara · 2026-10-21