NeurIPS 2026 研讨会探讨人机耦合系统中的动态对齐

StanfordAILab · x · 2026-08-04

即将举办的 NeurIPS 2026 BiAlign 研讨会发布征文通知，聚焦于「人机耦合系统中的动态对齐」问题。

研讨会指出，主流的 AI 对齐研究通常假设人类偏好是静态的，但在长期的高风险应用中，AI 会重塑人类的信任与行为，人类的干预也会反过来改变 AI 的目标。这种动态交互带来了诸多被忽视的风险，包括模型谄媚、过度依赖、价值与行动的脱节，以及 LLM 的暗黑模式。研讨会旨在推动将对齐视为一种持续学习的过程。