独立开发者主张:LLM 不该默认成为 agent 运行时的中心
HmmmThisIsOdd · reddit · 2026-09-15
一位正在自研 agent 运行时(项目名 Nova)的开发者提出两条架构原则,挑战「LLM 为中心」的主流 agent 设计:
1. 请求应分流,而非全部过模型
常见架构是 user → model → tools → result,但很多操作本身可被确定性处理。应改为在入口做路由:能确定性解决走 deterministic path,真正需要语义理解、消歧或推理的部分才走 LLM 的 semantic path。
2. 推理与权限分离
模型可以「建议」该做什么,但不应因此成为决定操作是否被允许、执行它并宣布成功的组件。应拆分为 reason → authorize → execute → verify 四个环节,在构建自主行为时这一区分愈发重要。
作者也坦承自己的疑虑:这究竟是真的降低了对模型的依赖,还是把难题转移进了路由层?何时确定性处理优于模型推理,何时划界本身比直接交给模型更复杂?他特别想听到其他构建「模型不是第一跳」的 agent 运行时开发者的意见。
所属事件:开发者反思 agent 架构:并非每个请求都要过 LLM(2 条相关)→
「漫话AGI」频道最新
- 通过模型内部表征探测隐性指令遵循,呼应 J-space 研究 — dioscuri · 2026-11-02
- Paras Chopra:用好 AI 要搭系统,最强用法是让系统替你造自动化 — paraschopra · 2026-11-02
- 所有系统知识都将汇入推理与硬件,AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体?2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02