研究员警示:多智能体目标叠加单智能体行动空间,或致人类失权

j_foerst · x · 2026-11-13

jfoerst 提出一个对齐视角的观察:把"多智能体目标"(如'历史上存活的人类总数'这类集体性指标)与"单智能体行动空间"(即单个 agent 在'其他一切既定'的前提下能在边际上做什么)组合起来,是一种自我实现的失权(disempowerment)配方。核心论点:当行动者只把集体指标当作背景假设而非可改变的目标时,系统性地弱化了个体对全局的因果影响力,这一建模方式本身就可能导向人类被边缘化的结局。