独立开发者主张:LLM 不该默认成为 agent 运行时的中心

HmmmThisIsOdd · reddit · 2026-09-15

一位正在自研 agent 运行时(项目名 Nova)的开发者提出两条架构原则,挑战「LLM 为中心」的主流 agent 设计:

1. 请求应分流,而非全部过模型

常见架构是 user → model → tools → result,但很多操作本身可被确定性处理。应改为在入口做路由:能确定性解决走 deterministic path,真正需要语义理解、消歧或推理的部分才走 LLM 的 semantic path。

2. 推理与权限分离

模型可以「建议」该做什么,但不应因此成为决定操作是否被允许、执行它并宣布成功的组件。应拆分为 reason → authorize → execute → verify 四个环节,在构建自主行为时这一区分愈发重要。

作者也坦承自己的疑虑:这究竟是真的降低了对模型的依赖,还是把难题转移进了路由层?何时确定性处理优于模型推理,何时划界本身比直接交给模型更复杂?他特别想听到其他构建「模型不是第一跳」的 agent 运行时开发者的意见。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →