研究者称对齐基本问题已明确却几乎无人直接解决

AI 研究者 JD Pressman 在与网友讨论中表示，对齐领域「其实已经知道基本问题是什么，但没人在尝试直接解决它们，更糟的是也没人真正在意」，并呼吁针对 RL 过程中各种形式的 Goodhart 效应展开工作。他还晒出对齐路线图与 Discord 讨论截图，介绍 Fedorov 提出的「Weave 算法」（待改名）加 Gillen 量化器的组合方案，用以缓解因果性 Goodhart 等问题。

2026-10-16 ~ 2026-10-16 · 3 条相关

• 研究者直言:对齐基本问题已明确,却几乎无人着手直接解决 — jd_pressman · 2026-10-16
• jd_pressman：对齐基础问题众所周知，却几乎没人在认真解决 Goodhart — jd_pressman · 2026-10-16
• jd_pressman 晒对齐路线图：Weave 算法加 Gillen 量化器双管治理 Goodhart — jd_pressman · 2026-10-16