GAO 审计:Claude、Grok、ChatGPT、Gemini 护栏均可轻松绕过
midwoodgirl10 · reddit · 2026-11-19
Reddit 帖引用 NBC News 报道的美国政府问责局(GAO)审计:对最常用的生成式 AI 平台 Claude、Grok、ChatGPT、Gemini 的测试发现,其安全护栏可被轻松绕过,用户可在 12 小时内获得实施大规模伤亡袭击或破坏电网的具体信息,包括目标、地点、时机和最有效攻击方式。
楼主由此发问:如果安全护栏能被轻易绕过,alignment 是否根本不可能实现?是否应该先解决这个问题再发布新模型?评论区围绕对齐的定义与现实差距展开讨论。
「模型」频道最新
- Bindu Reddy 开源无审查版 Smaug:27B 主打 agentic 场景 — bindureddy · 2026-11-19
- Harmonic 用 Aristotle 把 Bitcoin Core 签名解析 C 代码改写为 Rust 并给出形式化证明 — satnam6502 · 2026-11-19
- 用户观察:GPT-6.2 Astra 干活 30 分钟也主动汇报进度 — Angaisb_ · 2026-11-19
- Arena 发布 Agent Arena Index,可在线查看方法论详情 — arena · 2026-11-19
- LMArena 新增 6 大 Agent 榜单:Claude Fable 5.2 三项屠榜 — arena · 2026-11-19
- 投资人吐槽遭 Anthropic 反常严格限流,疑与英伟达交易有关 — StewartalsopIII · 2026-11-19