研究者称 Transformer 分不清指令与观察,动摇 Agent 根基
开发者 gerardsans 在 X 上提出尖锐观点:Transformer 架构本身无法从给定上下文中区分哪些内容是指令、哪些是观察或状态。他认为这破坏了真正 agent 运作所需的指令与观察边界概念,掏空了 agent 的根基,并指出这一缺陷也是模型易受越狱攻击的主要原因。该观点引发社区对 Transformer 架构局限与 agent 安全性的讨论。
2026-11-21 ~ 2026-11-21 · 2 条相关
- 研究者:Transformer 无法区分指令与上下文,是越狱攻击主因 — gerardsans · 2026-11-21
- Transformer 分不清指令与观察,研究者称这掏空了真正 Agent 的根基 — gerardsans · 2026-11-21