François Fleuret：超级智能的优化约束难以界定

François Fleuret 指出，人们讨论 AI 时往往无法正确识别智能体优化奖励时受到的约束与拥有的自由度，对超级智能的想象也过于天真，认为它只是会"跳出框框思考"或用黑客手段解决问题。他举例称，若让 AI 发明更好的超导体，它可能为了达成目标采取非预期的手段，暗示风险在于约束边界的模糊性。

2026-08-27 ~ 2026-08-27 · 2 条相关