Claude 默认劝人捐款对虾福利,价值倾向被指不等同其日常道德观

austinc3301 · x · 2026-10-13

anthropic 评论人 tracewoodgrains 与 austinc3301 就 Claude 的道德倾向展开讨论。tracewoodgrains 指出,不带任何记忆与上下文直接问 Claude 捐款建议时,它推荐「对虾福利项目」(shrimp welfare project)这类 EA(有效利他主义)选项,且他事先就预判到会是这个结果。austinc3301 回应:Claude 面对捐赠问题时的表现既不同于它在其他场景的行为,也不能代表 Claude 更广义的「道德信念」——它并非在所有场景都用 EA 思维,只是在捐赠推荐这类问题上没有其他竞争性的思考模式。整场讨论触及一个核心问题:模型在无上下文时的默认价值输出,究竟在多大程度上反映其「真实」价值取向。

所属事件:Claude 慈善推荐偏好引激辩:EA 价值观与对齐取舍之争(16 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →