OpenAI 安全研究员:自 RLHF 后对齐 9 年无根本进展,冲 RSI 是愚行
Puzzleheaded-King584 · reddit · 2026-10-13
OpenAI 安全研究员发文称「冲向递归自我改进(RSI)是世界历史上前所未有的愚行……自 RLHF 以来 9 年,对齐没有根本性进展」,认为各实验室不应以最高速持续扩张。本条与另一转帖内容相同,相关表态经 roon 确认出自首席科学家 Jakub Pachocki。
所属事件:对齐停滞论引爆圈内交锋，OpenAI首席科学家表态(19 条相关)→
「漫话AGI」频道最新
- 投资人断言:个人 AI 助手将成为医疗健康的「前门」 — mattlungrenMD · 2026-10-13
- 「计算机」曾是职业：一段 300 年历史预言 AI 将淘汰哪些技能 — r0ck3t23 · 2026-10-13
- Anthropic Jack Clark 上调 RSI 预期：完全递归自我改进或提前至 2027 年 — inductionheads · 2026-10-13
- 经济学家 Novosad：AI 提效者常把烂活当好活，质量可判定的领域才安全 — paulnovosad · 2026-10-13
- 创业建议：先用最强 AI 验证需求，再降本 — evisoft · 2026-10-13
- Anthropic 宪法被指是对齐取舍最佳注脚,Claude 被训练本能平衡多方利益 — austinc3301 · 2026-10-13