Octen称Agent搜索P50仅62毫秒,P90差距只有6毫秒

aakashgupta · x · 2026-07-21

Octen 这次发布里最关键的数字不是平均延迟,而是 P50 和 P90 之间只有 6ms 的差距。

作者认为,Agent 在一次任务里会串联几十次搜索,方差会在链路中被不断放大。为了适配一个问题拆成 50 个子查询 的 fan-out 场景,Octen 重新做了 索引、排序和服务层,目标是让搜索能稳定塞进 agent 的思考回路里。它宣称当前 P50 延迟为 62ms。

帖子还提到有公开 benchmark,方便别人拿自己现在的 agent 搜索方案直接对比。

所属事件:Octen公开Agent搜索基准测试(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →