Octen称Agent搜索P50仅62毫秒，P90差距只有6毫秒
aakashgupta · x · 2026-07-21
Octen 这次发布里最关键的数字不是平均延迟，而是 P50 和 P90 之间只有 6ms 的差距。
作者认为，Agent 在一次任务里会串联几十次搜索，方差会在链路中被不断放大。为了适配一个问题拆成 50 个子查询 的 fan-out 场景，Octen 重新做了 索引、排序和服务层，目标是让搜索能稳定塞进 agent 的思考回路里。它宣称当前 P50 延迟为 62ms。
帖子还提到有公开 benchmark，方便别人拿自己现在的 agent 搜索方案直接对比。
所属事件:Octen推出专为AI Agent设计的极速搜索栈(3 条相关)→
「编程与Agent」频道最新
- HF Hub CLI 大更新:缓存去重省 19GB,GPU 任务可重试重跑 — yb2698 · 2026-10-26
- 前 Google 研究员团队发布 Fern 0.1:专供审计数据、调试训练的模型 — bneyshabur · 2026-10-26
- Fern 0.1 智能体基准首秀:SWE-Bench Verified 73.4,与前沿模型仍有差距 — bneyshabur · 2026-10-26
- 一条 Prompt 生成完整 Blender 动画,作者全程未手动建模 — iamfakhrealam · 2026-10-26
- 用户用 Claude Code 拆解本田车机：发现 root 后门与静默装 APK — IndraVahan · 2026-10-26
- Claude Code + MCP 接 Google Maps/Apollo/LinkedIn，搭年省万美元的获客引擎 — aryanXmahajan · 2026-10-26