观点对撞:Anthropic 与 OpenAI 对齐路线谁押对了?
AaronBergman18 · x · 2026-11-20
评论者 hamandcheese 提出一个中等置信度的判断:Anthropic 早期就把对齐本身当作核心投资,把 Claude 类比为生物心智来对待;而 OpenAI 低估了这种「本义上的对齐」,更多把 GPT 当作由狭窄 RL 策略塑造的工具。
两者的对齐方法在 RLVR 规模化扩大的过程中都暴露出严重不足,但 Anthropic 在整体性地对待模型「心理」方面显得更老练,OpenAI 则继续推进能力极强却未必可信的数学求解器——「强到不能放心让它看你的代码仓库」。
这条转推是在回应 METR 关于 RSI(自我改进)报告的讨论,涉及 OpenAI 数据在 OECI 指标上未出现趋势断点这一点,提问者追问这究竟是方法学假象,还是说明 AI 在能力相似的情况下已更深入 RSI、应小幅拉长时间线预期。
「漫话AGI」频道最新
- 「一次生成的动画不够格入职」?研究员怒斥:通用 LLM 工具时代将至 — teortaxesTex · 2026-11-20
- AI 时代的新社交分界:哪些问题该问人,哪些问模型 — AaronBergman18 · 2026-11-20
- 评论:别幻想中国很快替代 ASML,制裁只是小挫折 — PAstynome · 2026-11-20
- Dario 用开车比喻递归自我改进:实验室刻意限速到 90 — imjustnewatai · 2026-11-20
- AI 圈激辩:零劳动+UBI+市场经济真能共存吗 — zetalyrae · 2026-11-20
- 前 NSA 黑客:AI 智能体集群 14 分钟绕过双重认证攻穿企业系统 — GaryMarcus · 2026-11-20