有对齐研究者拒做「实用派」对齐工作,资助方设项目陷两难
JacquesThibs · x · 2026-11-18
JacquesThibs 分享对 AI 风险担忧者的观察(源自 LinkedIn 讨论):一些真心相信 AI 风险的研究者拒绝了高可资助性的项目——这些项目虽能提升 AI 的可用性,但属于「日常型对齐工作」,无法解决核心对齐问题,甚至有人因此不去前沿实验室任职。作者指出这会让资助方(grantmaker)在设立项目时面临不易察觉的复杂性:表面上值得资助的「让 AI 更安全可用」的工作,可能恰恰被坚守核心对齐议题的研究者视为偏离正题而拒绝。
「漫话AGI」频道最新
- 「苦涩教训」降临软件工程:别手写抽象,让智能体自己发现 — tylerjdunn · 2026-11-18
- 相信 RSI 临近也别冲动辞职退学:日常惯例帮你保持清醒 — Puzzleheaded-King584 · 2026-11-18
- 「分离式选模」引热议:用 64 个副本筛出会钻空子的模型 — repligate · 2026-11-18
- AI Safety 转行者自述陷困境:求职 11 个月未果,积蓄耗尽一天一餐 — JacquesThibs · 2026-11-18
- 两小时深度访谈:Jacob Coxon 谈 RSI、METR 报告与 AI 灭绝风险 — JacquesThibs · 2026-11-18
- AI 监管或加剧内外部署差距,前 OpenAI 成员提预警 — JacquesThibs · 2026-11-18