AI安全术语遭批：研究者呼吁跳出湾区思维

近日多位AI研究者对“AI安全”领域的现有术语与思维定势提出反思。研究员jdpressman指出，“AI安全”一词堪称重大品牌失误，该术语为许多无关担忧提供了空间，反而掩盖了如何避免因果与极值等核心对齐难题。另有研究者认为，随着接近人类水平的AI不断涌现，“工具趋同”等传统术语已不再是有效的预测工具，容易将缺乏自然联系的概念混为一谈。同时，专家呼吁大众跳出旧金山湾区的“信息茧房”，避免在AGI进展上陷入群体思维，以保持思考的多样性与独立性。

2026-08-10 ~ 2026-08-10 · 3 条相关