Imbue 联创驳"无法对齐超智能"论:对齐本就是风险投入比问题
joshalbrecht · x · 2026-09-10
Imbue 联合创始人 Josh Albrecht 反驳"我们不知道如何对齐超智能"的说法。他认为,没有人真的认为存在某种形式系统能"完美"对齐一个 agent;
如果不追求完美,那讨论的就是经验问题(empirics)——而对今天的系统,业内已经积累了大量实践经验。他类比道:我们同样不知道如何造"绝对安全"的任何东西,这本质上就是风险与经验性安全措施投入之间的比例问题,而非某种玄学式的"能否对齐"。
所属事件:研究者激辩：现有对齐方法能否扩展到超级智能(5 条相关)→
「漫话AGI」频道最新
- 开发者放话：敢说 AI 泡沫就亮出你的空单来 — flowersslop · 2026-10-26
- 荷兰宣布裁减 2.5 万个公务员岗位,以 AI 扩展替代行政工作 — Polymarket · 2026-10-26
- 畅想 2049:RSI 之后前沿实验室自留 ASI,卖产物不卖 token — DavideCrapis · 2026-10-26
- 用 agent 三条教训:别靠它读论文、别混学英语、别为烧 token 后台跑任务 — ZeYanjie · 2026-10-26
- Chris Paxton 回怼「价值不在模型」:没有模型能一次性干成活就是自我安慰 — chris_j_paxton · 2026-10-26
- Kenneth Stanley 谈 AGI 难题:如何度量开放式发现 — mhmazur · 2026-10-26