研究者:Transformer 无法区分指令与上下文,是越狱攻击主因

gerardsans · x · 2026-11-21

开发者 gerardsans 在 X 上提出一个尖锐观点:Transformer 架构本身无法从给定上下文中区分哪些是指令、哪些是观察内容,这破坏了 agent 运作所需的边界概念,也是越狱攻击的主要向量。他还补充:transformer 需要等待外部执行器(无论人或机器)才能行动,说明它缺乏真正的智能。这是针对 agent 安全与架构局限的实质性技术争论观点。

所属事件:研究者称 Transformer 分不清指令与观察,动摇 Agent 根基(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →