新论文：轨迹式 LLM 越狱
radamihalcea · x · 2026-07-10
一篇关于 LLM 安全的新论文被 COLM 2026 接收。论文指出，LLM 安全不只取决于最后一个 prompt，而是整个生成路径；作者提出了 ICD，一种基于轨迹的 jailbreak 策略，展示了少量连续续写如何逐步削弱模型安全防护。 帖子附上了论文链接，强调这是一个研究型安全发现，而不是单纯的应用层提示词技巧。
radamihalcea · x · 2026-07-10
一篇关于 LLM 安全的新论文被 COLM 2026 接收。论文指出，LLM 安全不只取决于最后一个 prompt，而是整个生成路径；作者提出了 ICD，一种基于轨迹的 jailbreak 策略，展示了少量连续续写如何逐步削弱模型安全防护。 帖子附上了论文链接，强调这是一个研究型安全发现，而不是单纯的应用层提示词技巧。