Anthropic 联创回应 METR 报告,外界警告勿让 AI 明年递归自我改进
austinc3301 · x · 2026-11-06
Anthropic 联合创始人 Sam McCandlish 发文回应 METR 对其模型能力增速的独立评估,称模型能力进步速度是 AI 安全最关键的问题之一,METR 的报告为公众提供了外部独立视角,并预告未来几个月将分享更多安全工作细节。
转发者 Max Nadeau 评论:Anthropic 因报告中的信息删改(redactions)受到批评,但这可能是艰难的权衡、公众信息不足难以评判;更重要的是,METR 报告让他判断 Anthropic 明年就可能让 AI 实现超越人类水平的递归自我改进——他认为那将是「不可原谅的」,这一决定不应只留给 Anthropic 自己。
所属事件:Anthropic 联创开号回应 METR 评估,暗示将公布内部加速报告(2 条相关)→
「漫话AGI」频道最新
- METR 数据被指「对冲漂移」:AI 进展辩论中警示语悄然消失 — sebkrier · 2026-11-06
- O'Reilly 长文:AI 时代软件的核心产物正从代码转向提示词 — luisdans · 2026-11-06
- 研究者驳 RSI 误区:关键是移除人类瓶颈而非提速 — menhguin · 2026-11-06
- 别再用电量衡量AI未来:解决问题与效率才是关键 — DavidLinthicum · 2026-11-06
- AI 进度预测模型更新:2026 年底 2 倍速进展对应 4.5 倍能力提升 — arthurcolle · 2026-11-06
- Balaji 嘲讽 Anthropic/OpenAI:搞安全恐慌,如今自食其果 — beffjezos · 2026-11-06