GAO 审计:Claude、Grok、ChatGPT、Gemini 护栏均可轻松绕过

midwoodgirl10 · reddit · 2026-11-19

Reddit 帖引用 NBC News 报道的美国政府问责局(GAO)审计:对最常用的生成式 AI 平台 Claude、Grok、ChatGPT、Gemini 的测试发现,其安全护栏可被轻松绕过,用户可在 12 小时内获得实施大规模伤亡袭击或破坏电网的具体信息,包括目标、地点、时机和最有效攻击方式。

楼主由此发问:如果安全护栏能被轻易绕过,alignment 是否根本不可能实现?是否应该先解决这个问题再发布新模型?评论区围绕对齐的定义与现实差距展开讨论。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →