Ryan Greenblatt 谈对齐：依赖 constituents 才是约束系统的主力
ryangr · x · 2026-10-12
前 OpenAI 研究员 Ryan Greenblatt 提出一个对齐观点：让一个系统与其组成成员（constituents）保持对齐的主要力量，其实是系统对这些成员的依赖。他接续此前「超过人类智能的世界中，经济将不再由人类运营」的判断，暗示一旦超级智能系统不再依赖人类，这种天然的对齐约束就会消失。
「漫话AGI」频道最新
- Le Monde 曝光：OpenAI 曾长期压住数学论文发布，并组建独立数学顾问组 — basedjensen · 2026-10-12
- Cloudflare 工程师发声：请善待被 AI 冲击而焦虑的从业者 — threepointone · 2026-10-12
- 网友称 OpenAI 五级量表已近 L4,一年内可达 L5 超级智能 — DeryaTR_ · 2026-10-12
- NYT 提出「验证税」：90% 高管称 AI 未带来生产率提升 — asusarla · 2026-10-12
- 推文观点：孩子是最后一种无法自动化的「商品」 — l4rz · 2026-10-12
- 「AI 抢走所有工作」前提有误:人类欲望无止境,机器数量才有限 — JHochderffer · 2026-10-12