MM Mitchell:Agent 时代靠模块化与确定性门控防注入

mmitchell_ai · x · 2026-09-18

在讨论 prompt injection 成因时,回应者指出模型难以区分指令与其他上下文,这正是注入攻击得手的原因。AI Ethics 顶尖学者 Margaret Mitchell(mmitchellai)回应称:这种设计本身就不是好的选择,也远非唯一方案——对聊天机器人尚可接受,但对于能影响外部世界的 agent,模块化(modularization)和确定性门控(deterministic gating)并非新想法,业界早有成熟思路可借鉴。这指向一个观点:当前 LLM agent 架构在安全设计上是可替换的,不该把「指令与数据混在一条上下文里」当作理所当然。