Anthropic 安全研究员 Joe Benton 离职入 METR,警告自我改进风险
AryHHAry · x · 2026-09-12
印尼语推文转述了一则重要动态:Anthropic 安全团队成员 Joe Benton 两周前离职,随后发文解释原因,次日加入 METR。
他的核心论点并非「今天的 chatbot 会毁灭人类」,而是更窄也更尖锐:
- 前沿实验室正在加速构建能够自我改进的系统,而安全投入因「落后成本太高」而不足;
- 公众可能无从得知某个实验室何时出现能力跃升或失控——「等公众知道时可能已经泄露到互联网上」并非比喻;
- 他提出的诉求很具体:披露 recursive self-improvement 方面的进展、报告事故与 near-miss、设立最低标准,并保证这些标准被独立验证。
所属事件:Anthropic安全成员Joe Benton离职加入METR并警告AI安全投入不足(7 条相关)→
「公司和人」频道最新
- 创业老兵：Valve 和 Epic 是 30 年来合作体验最佳的公司 — draginol · 2026-10-28
- NeurIPS 悉尼与亚特兰大候补已激活，10月30日再放注册名额 — NeurIPSConf · 2026-10-28
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- Artificial Analysis 旧金山办「Independent analysis of AI」活动 — echen · 2026-10-28
- 苹果裁员 200 余人：Siri、Vision Pro 与 AI 团队均受波及 — CtrlAltDwayne · 2026-10-28
- 某大企业AI负责人：10%员工贡献90%生产力提升，投入培训也改变不了 — _AustinCalvert_ · 2026-10-28