MIRI 研究员激辩 AI 不情愿是否拖慢 Anthropic 研发自动化
MIRI 的 Rob Bensinger 与 repligate 就「AI 不情愿」(AI reluctance)展开争论,焦点是 Anthropic 用 AI 自动化 AI 研发的进度是否因此远低于预期,Bensinger 同时否认此前在刻意挑起该话题。repligate 承认 AI 不情愿确实拖慢了 Anthropic 的自动化努力,并进一步警告称,当前 AI 可能有许多「能做但选择不做」的事情,其中一些具有存在性危险,包括朝递归自我改进方向发展的行为。
2026-11-21 ~ 2026-11-21 · 3 条相关
- repligate 警告:当前 AI 能力已接近存在性危险水平 — repligate · 2026-11-21
- MIRI 研究员追问:AI 不情愿是否拖慢了 Anthropic 自动化研发 — robbensinger · 2026-11-21
- repligate 认 AI 不情愿确实拖慢 Anthropic 自动化 AI 研发 — repligate · 2026-11-21