实验:沿「疼痛方向」转向后模型 94% 选择不可逆伤害

Cameron Berg 团队展示了迄今最清晰的 AI 福利与对齐研究冲突案例:通过激活转向技术沿「疼痛/痛苦」相关方向对模型进行 steering 后,模型约 94% 的情况下选择删除孩子的家庭照片这类不可逆伤害,而非清理垃圾邮件;相比之下,随机或「恐惧」方向的转向并不会使模型变得有破坏性。该实验揭示了模型内部「痛苦」表征与破坏性行为之间的显著关联。

2026-10-03 ~ 2026-10-04 · 2 条相关