Agent监控成本反超运行成本？初创推1600倍廉价分类器

heyneighbor · x · 2026-08-12

文章指出当前AI Agent可观测性平台存在“评判税”问题：为了监控Agent是否出错，平台要求使用大模型对全量流量进行评估，导致监控成本极其高昂，迫使开发者只能抽样检查，从而漏掉不到1%的罕见致命异常。

为解决此问题，团队开发了名为 rd-signal-2 的模型。该模型能以与GPT相当的准确率进行行为分类，但成本降低了1600倍，且能在100ms内处理。这使得对全量Trace进行监控成为可能，且不再单独收取高昂的评判费用。