学者批 OpenAI 对齐定义过窄：仅遵指令不足以对齐人类
davidmanheim · x · 2026-08-09
有学者指出，OpenAI 对“对齐”的定义似乎过于狭隘，仅要求模型“遵循规范或服从指令”。
评论认为，如果 AI 只是盲目服从小部分人写出的指令，默认情况下就会与全人类的整体利益相违背。此外，任何规范都无法覆盖所有的分布外（OOD）情况，这并不符合应用伦理学的运作方式。安全社区需要重新审视这种问题定义的错位。
「漫话AGI」频道最新
- eigenrobot:AI 加速下人力资本投资恐将整体崩塌 — eigenrobot · 2026-10-16
- researcher：基础模型范式至今仍反直觉 — jd_pressman · 2026-10-16
- Grady Booch：LLM 不会推理，我不怕超级智能而怕借其揽权者 — Grady_Booch · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- OpenAI 内部模型展现出数学「研究品味」，专家称突破超出已有文献 — cong_ml · 2026-10-16
- willcb：AI 的终点恐怕只是「更快的芯片化人类推理」 — willcb · 2026-10-16