研究:人们在道德两难中想从 AI 顾问那里获得怎样的「对齐」
MaartenSap · x · 2026-11-16
- 一项研究探讨:当人们选择 AI 顾问来咨询道德两难时,更希望它与自己在哪方面一致——是做出相同的决定,还是给出相同的理由,或两者都要。
- 研究者据此分析人们真正想要的是哪种「对齐」(alignment),论文已发布。
「研究」频道最新
- OSWorld-Persona 基准:108 段录屏评测智能体何时该主动帮忙 — EchoShao8899 · 2026-11-16
- Fable 5.2 解谜「好得可疑」,被质疑训练时见过 MazeBench — patience_cave · 2026-11-16
- Schmidhuber 发新综述:机器学习是一门「功劳分配」的科学 — SchmidhuberAI · 2026-11-16
- Andrew Wilson:超越黑盒预测的 AI 研究是最鼓舞人心的方向 — andrewgwils · 2026-11-16
- Perplexity 宣布成立 Frontier Research,公开推进模型与算法前沿 — andrewgwils · 2026-11-16
- Jon Barron 推荐其 CVPR23 演讲:从 1950 年速度预测图看外推陷阱 — jon_barron · 2026-11-16