Imbue 联创驳"无法对齐超智能"论:对齐本就是风险投入比问题
joshalbrecht · x · 2026-09-10
Imbue 联合创始人 Josh Albrecht 反驳"我们不知道如何对齐超智能"的说法。他认为,没有人真的认为存在某种形式系统能"完美"对齐一个 agent;
如果不追求完美,那讨论的就是经验问题(empirics)——而对今天的系统,业内已经积累了大量实践经验。他类比道:我们同样不知道如何造"绝对安全"的任何东西,这本质上就是风险与经验性安全措施投入之间的比例问题,而非某种玄学式的"能否对齐"。
所属事件:对齐之争：现有方法能否扩展到超智能引发讨论(3 条相关)→
「漫话AGI」频道最新
- Shaun Trennery:AI 时代人类不会没事做,只会像 F1 一样造更多游戏 — shauntrennery · 2026-09-10
- 安全专家批驳「AI 一天瘫痪一国」论:关键设施根本不联网 — sebkrier · 2026-09-10
- AI 危险来自人不是技术？两位研究者激辩监管该管谁 — BlackHC · 2026-09-10
- Coefficient Giving 获 40 亿美元资助，称 AI 安全缺的是人才不是钱 — TinfoilTricorn · 2026-09-10
- 博主盘点历次 AI 封禁呼声：灾难预言一个都没兑现 — bindureddy · 2026-09-10
- DeepMind 研究员实名承认担心 AI 灭绝人类,无视公司言论政策 — apsarathchandar · 2026-09-10