批评论者：Anthropic 力挺递归自我改进却只谈安全不踩刹车
peterwildeford · x · 2026-11-07
peterwildeford 批评 Anthropic 在递归自我改进(RSI)问题上的言行不一：Anthropic 一边认为 RSI 危险，一边却在尽快推进。
引用的 Andrew Curran 帖子补充了背景：自 Dario 在达沃斯世界经济论坛表态「倾向拥抱 RSI」后，Anthropic 一直全速前进；他们的说法是「支持 pacing(减速)」，但实际行动上并没有在减速。作者讽刺道，我们大概只会看到更多上万字的安全长文，而看不到真正放慢脚步的措施。
这是 AI 安全圈内部对前沿实验室「说一套做一套」的典型批评，值得安全与对齐讨论者关注。
「漫话AGI」频道最新
- Gladstone AI CEO 做客播客：华盛顿醒过来需要一个「AI 切尔诺贝利」 — AaronBergman18 · 2026-11-07
- 美国印第安纳州布卢明顿市全票通过史上首部「禁超级智能」法令 — DavidSKrueger · 2026-11-07
- Joe Carlsmith 的 AI 夺权风险论证逐条拆解：你该给哪一步多少置信度 — AndyMasley · 2026-11-07
- 硅谷编剧七年前神预言：AI 递归改进时自己撞破世界级加密突破 — Hesamation · 2026-11-07
- Dean Ball:前沿 agent 很快将操控物理世界,无需专用模型 — deanwball · 2026-11-07
- 5.4 万粉博主：人类开始模仿机器人的说话方式，评论区已不可信 — michalmalewicz · 2026-11-07