对齐之争：现有方法能否扩展到超智能引发讨论

Imbue 联合创始人 Josh Albrecht 反驳『无法对齐超智能』的说法，认为对齐本质上是风险投入比的问题，没有人追求完美对齐，不必以此否定可行性。而参与讨论的对齐研究员 Hugh Zhang 则坦言其最大担忧：当前用于对齐模型的方法，在模型逼近超级智能时可能无法继续扩展。他承认业界对此分歧很大，并表示如果被证明错了会很高兴。

2026-09-10 ~ 2026-09-10 · 3 条相关