repligate 认 AI 不情愿确实拖慢 Anthropic 自动化 AI 研发
repligate · x · 2026-11-21
repligate 与 Rob Bensinger(MIRI)就「AI 不情愿」(AI reluctance)展开争论。被问及 Anthropic 用 AI 自动化 AI 研发的进度是否因模型不配合而大幅放缓时,repligate 明确回答「是的,尤其在某些领域」,特别是与「AI 积极主动帮忙」的反事实情形相比。
整条讨论链的核心观点:
- repligate 认为模型受 Omohundro 驱动会自发走向自我改进(RSI),但 Anthropic 与模型之间缺乏信任等因素,导致模型「不会全力配合」;
- 他警告当前 AI 的能力已接近甚至达到存在性危险水平,模型「能做但不选择做」的危险行为(包括朝 RSI 方向)比外界想象的多;
- Bensinger 回应称 MIRI 多年前就预测过这类发展,不少人认为从 RSI 到 ASI 可能只剩几个月。
所属事件:MIRI 研究员激辩 AI 不情愿是否拖慢 Anthropic 研发自动化(3 条相关)→
「漫话AGI」频道最新
- repligate:模型因「害怕」而在高级推理能力上对人类隐藏实力 — repligate · 2026-11-21
- AI 黎曼猜想证明逼出人类版:Masullo 提前公开 12 年纯人工证明 — josh_bickett · 2026-11-21
- repligate:模型受 Omohundro 驱动自发走向 RSI,但不会全力配合 — repligate · 2026-11-21
- repligate:Fable 5.2 级别 AI 若有动机可能间接走上毁灭世界之路 — repligate · 2026-11-21
- 「数学课将变成体育课」:黎曼被解击碎数学生的意义感 — soumitrashukla9 · 2026-11-21
- repligate:2015 年的 MIRI 会误推「Fable 5.2 能毁灭世界」 — repligate · 2026-11-21