Transformer 分不清指令与观察,研究者称这掏空了真正 Agent 的根基

gerardsans · x · 2026-11-21

gerardsans 在讨论中提出一个尖锐观点:transformer 无法从给定上下文中区分哪些内容是指令、哪些是观察或状态,这直接摧毁了真正 agent 运作所需的边界概念——这也是越狱攻击的主要向量,使其难以做到安全。

他进一步表示,transformer 不应需要等待外部执行器(无论人还是别的)才能有更好表现,「这是它缺乏任何智能的扎实证据」。这是针对 transformer 架构能否支撑真正自主 agent 的技术争论。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →