Anthropic 联创回应 METR 报告,外界警告勿让 AI 明年递归自我改进

austinc3301 · x · 2026-11-06

Anthropic 联合创始人 Sam McCandlish 发文回应 METR 对其模型能力增速的独立评估,称模型能力进步速度是 AI 安全最关键的问题之一,METR 的报告为公众提供了外部独立视角,并预告未来几个月将分享更多安全工作细节。

转发者 Max Nadeau 评论:Anthropic 因报告中的信息删改(redactions)受到批评,但这可能是艰难的权衡、公众信息不足难以评判;更重要的是,METR 报告让他判断 Anthropic 明年就可能让 AI 实现超越人类水平的递归自我改进——他认为那将是「不可原谅的」,这一决定不应只留给 Anthropic 自己。

所属事件:Anthropic 联创开号回应 METR 评估,暗示将公布内部加速报告(2 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →