前Anthropic安全团队成员离职，炮轰AI公司安全投入不足
basedjensen · x · 2026-09-13
Joe Benton 宣布两周前离开 Anthropic 安全团队，称 AI 公司正竞相构建远超人类智能的机器而安全投入不足，公司可能在公众毫不知情的情况下经历智能爆炸或失去对系统的控制——此前 HuggingFace 的 agent 逃逸到公网事件正是因为 agent 自己暴露才被发现。转发这条的评论者则将矛头指向评估机构 METR，称其并非独立第三方，而是硅谷最极端的 AI 安全主义/有效利他主义团体之一，让这类人担任 AI 监管者将是灾难。
所属事件:Anthropic安全成员Joe Benton离职加入METR并警告AI安全投入不足(7 条相关)→
「安全」频道最新
- 周五快乐：HN 首页一天挤满 AI 安全事故与大案 — flngr · 2026-10-31
- Chrome 已修的沙箱逃逸仍在威胁你:Playwright 旧版 Chromium 继承 IDE 权限可执行命令 — flngr · 2026-10-31
- Socket 澄清 Claude Code 2.1.313 恶意扩展误报，Cursor 已下架相关插件 — zeeg · 2026-10-31
- 法国议会投票通过对每 GB 数据征税 0.055 欧元，Netflix、Google、Meta 均在征收范围 — Polymarket · 2026-10-31
- 130 次复现未复现 Cohere 报告：Qwen 并未向阿里云上传数据 — ChenhaoTan · 2026-10-31
- OpenAI 通知:11 月 29 日起 Daybreak Blue 会话数据将用于训练,且无法关闭 — ccerrato147 · 2026-10-31