新论文用博弈论刻画 AI 助手困境：不知对话者身份时如何兼顾有用与无害

conitzer · x · 2026-10-21

Vincent Conitzer（AAMAS 等领域知名学者）团队发布由 Ida Mattsson 领衔的新论文，研究 AI 助手在「有用」与「无害」之间的博弈论极限。

核心问题：当助手不知道自己正在和谁对话（用户、第三方、还是被滥用地询问），要在有帮助和不造成伤害之间取得平衡存在根本性的理论限制。论文从博弈论视角形式化这一困境并给出边界结论，与模型对齐中的「防信息滥用」问题直接相关。