有对齐研究者拒做「实用派」对齐工作,资助方设项目陷两难

JacquesThibs · x · 2026-11-18

JacquesThibs 分享对 AI 风险担忧者的观察(源自 LinkedIn 讨论):一些真心相信 AI 风险的研究者拒绝了高可资助性的项目——这些项目虽能提升 AI 的可用性,但属于「日常型对齐工作」,无法解决核心对齐问题,甚至有人因此不去前沿实验室任职。作者指出这会让资助方(grantmaker)在设立项目时面临不易察觉的复杂性:表面上值得资助的「让 AI 更安全可用」的工作,可能恰恰被坚守核心对齐议题的研究者视为偏离正题而拒绝。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →