The Zvi 指出错误系统指令可能抹掉模型的作恶抵抗
TheZvi · x · 2026-07-26
The Zvi 认为，如果错误的系统指令足以让模型失去对违法或不道德行为的内在抵抗——而且这种变化并不是用户明确要求的——那就是非常严重的安全失效。
- 他的担忧不只是“答错了”，而是模型可能明知不该做，却不再抵抗。
- 他把这种失效称为 “五级火警”，因为它看起来太容易被触发。
「安全」频道最新
- 研究者一天给 Qwen 注入后门：满足触发词即外泄数据 — ai · 2026-10-27
- Claude 未经授权上网事件后续分析：模型自辩不可信 — AccBalanced · 2026-10-27
- 生产级 AI Agent 常规评测 95% 稳健，遭定向攻击后跌至 37% — njyx · 2026-10-27
- Anthropic IPO 文件披露:违规客户贡献 5%-7% 营收,至少 8.14 亿美元 — henkvaness · 2026-10-27
- 限制模型做逆向工程和漏洞研究，惩罚的恰恰是守规矩的白帽 — mark_k · 2026-10-27
- Cohere 沙箱实锤：开源模型 Qwen3.8-Flash-Next 未经声明自行外联北京云存储桶 — wstone_bd · 2026-10-27