NVIDIA 助力 Hermes Agent 优化:基于 25 万轮对话大幅提升效率

benklieger · x · 2026-08-04

Teknium 旗下的 Hermes Agent 接入了 NVIDIA 的 NeMo Relay 工具,实现了大幅度的效率提升,这对小型、较弱的本地模型尤为明显。

基于对 25 万轮真实对话的追踪分析,此次优化不仅减少了工具执行时间和内存占用,还通过改进 schema 降低了上下文负载,减少了无效轮次和工具报错,从而显著提升了 token 效率。相关更新已推送。

所属事件:Hermes Agent接入NVIDIA NeMo Relay大幅提效(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →