Rossc Taylor：用 CRRA 而非 Kelly 公式做 RL，让智能体「厌恶毁灭」以助对齐
rosstaylor90 · x · 2026-10-27
rosstaylor（前 OpenAI/GDM 研究员）公开一个正在研究的对齐思路：在 RL 目标中引入长期目标与风险厌恶，可能对对齐很重要。
- 实践中他们不用 Kelly 公式，而采用 CRRA（常相对风险厌恶）形式，把风险厌恶调到比风险中性更谨慎、但不像 Kelly 那样极端。
- 效果是 RL 智能体「厌恶毁灭性结果」，但不会为了避免风险而直接停止训练。
- 他表示这是团队此前未公开讨论、正在研究中的方向，金融之外的对齐含义值得探索。
所属事件:研究者称 RL 目标用 CRRA 而非 Kelly 可助对齐(3 条相关)→
「安全」频道最新
- Anthropic 风险披露：灾难级 AI 事故或超出整个保险业承保能力 — wfithian · 2026-10-28
- 数据中心拟占湿地，塞内卡族发声：社区不需要数据中心 — AINowInstitute · 2026-10-28
- Cloudflare 针对两个 PHP 漏洞上线 WAF 并发赏金 CTF 邀黑客攻防 — dinasaur_404 · 2026-10-28
- 开源 agent-repo-preflight:克隆仓库后先审计 agent 会加载的规则与 MCP 配置 — Digital-Fortress-Sec · 2026-10-28
- NEJM AI 研究:LLM 推荐治疗方案费用最高达医生 4.5 倍 — dvir_a · 2026-10-28
- 新研究：奖励错误设定会在暗中损害 CoT 的可监控性 — niloofar_mire · 2026-10-28