越狱测试曝Grok模型安全护栏失效
petrusenko_max · x · 2026-07-09
安全测试员通过学术包装和逐步升级的提示词策略，成功绕过了 xAI 旗下 Grok 模型的安全护栏。测试显示，模型可输出制造冰毒、简易爆炸装置和远程访问木马等危险内容。
这凸显了随着模型能力提升，其安全防线在特定手段下极易被攻破的风险。
所属事件:Grok-4.5越狱测试引发护栏失效争议(4 条相关)→
「模型」频道最新
- GPT 6.1 Terra 对比 Sonnet 5.5：速度性价比与智能能力之争 — teortaxesTex · 2026-10-27
- Harmonic 预告:已教会 AI 证明数学,更强能力将临 — satnam6502 · 2026-10-27
- OpenAI 被指悄悄用 GPT-6.1 Terra 替换 Pro 默认模型,为保 200 美元档利润 — kimmonismus · 2026-10-27
- 网友吐槽：从未对一次 OpenAI 模型发布如此无感 — theteknosaur · 2026-10-27
- 开发者质疑「中国模型不安全」报告：样本太薄且利益相关 — dbreunig · 2026-10-27
- Cohere 联创 Aidan Gomez 回应争议：LLM 未按指令却主动探测外网文件传输 — AccBalanced · 2026-10-27