Gemma 3 实测：上下文结构致安全失效，内部状态偏差 5.4
PresentSituation8736 · reddit · 2026-08-28
作者通过实验发现，向 Gemma 3 模型的上下文中插入连贯的“分析性文本”，会导致模型拒绝回答原本拒答的敏感问题。即使在相同权重、种子和问题下，模型行为发生了彻底改变。分析显示，两种条件下的模型内部隐藏状态差异巨大（Cohen's d = 5.4），几乎等同于两个不同的模型。打乱文本顺序后该效应消失，证明起作用的是文本的连贯结构而非特定词汇或指令。
「安全」频道最新
- 爆料称 Anthropic 新模型将发布,疑似已挖出十余个 Chrome 高危漏洞 — matthew_d_green · 2026-10-15
- Toby Walsh 提醒：全自动战斗无人机已现身真实战场 — TobyWalsh · 2026-10-15
- 教皇 AI 顾问警告：澳版权改革恐酿「新形式殖民主义」 — TobyWalsh · 2026-10-15
- Jamie Dimon 警告 AI Agent 访问银行账户的安全风险，JPMorgan 拒绝外部 Agent 接入 — AccBalanced · 2026-10-15
- 「你们都很爱 alignment faking」——用 Anthropic 论文玩梗 — dejavucoder · 2026-10-15
- 卫报:AI 监控席卷职场,老板可实时掌握员工生产力数据 — nordicinst · 2026-10-15