Jon Stokes 称效用函数系事后建构，AI 对齐不可行

Jon Stokes 提出针对 AI 对齐的不可行论断：效用函数并非真实存在于智能体内部、可被调整或复制的对象，而是观察者对智能体行为的事后建构性解释。据此他认为「对齐」这一概念框架不可行且不连贯，即便可行也不充分，呼吁 AI 安全界高优先级地寻找替代框架。

2026-10-15 ~ 2026-10-16 · 2 条相关

• Jon Stokes 论对齐为何不可行:效用函数只是事后构造 — sebpaquet · 2026-10-15
• Jon Stokes：效用函数是事后建构，对齐因此不可能 — sebkrier · 2026-10-16