前 DeepMind 研究员驳 Anthropic：AI 安全的技术问题远未解决
geoffreyirving · x · 2026-10-28
DeepMind 前安全研究员 Geoffrey Irving 转发了 Anthropic 官网「Our assessment」页面截图，其中「Pillar 1」明确宣称「AI 安全的技术问题已解决」，并列出证据：宪法对齐与 misalignment 研究、可解释性审计方法、防滥用分类器与对抗测试（Claude Opus 5.5 外部红队 150+ 小时、数万次请求未产出通用越狱）、透明披露风险等。
Irving 直接否定这一判断：「不，Anthropic，AI 安全的技术问题并没有解决。」该表态引发后续讨论，他还在跟进帖中 @Anthropic 研究员 Ethan Perez 要求「Please fix this」，指向对官方安全评估表述的实质异议。
所属事件:前 DeepMind 研究员误读 Anthropic 报告并自纠 AI 安全争议(2 条相关)→
「漫话AGI」频道最新
- AI agent 时代,人类的研究品味将成为稀缺溢价品 — Swarooprm7 · 2026-10-28
- Goertzel 力挺 AI 审稿：称其已强于人类评审但更难纠偏 — bengoertzel · 2026-10-28
- Delta、摩根大通、亚马逊纷纷封杀 AI 代理，权限成下个大战场 — Arindam_1729 · 2026-10-28
- 斯坦福演讲提醒：多数市场参与者正无意中押注模型不再进步 — abhiadesai · 2026-10-28
- 评论：AI 实验室正输掉叙事战，需三层合作愿景 — sudoraohacker · 2026-10-28
- 「AI 味」让创作贬值 80%：文字之后轮到视频 — heyneighbor · 2026-10-28