把梯度下降类比为AI安全
joshua_saxe · x · 2026-07-14
作者把**梯度下降**类比为 AI 安全的合适方法：根据观察到的风险与伤害数据，持续朝“下一步正确方向”前进。 他进一步认为： - 步长可以随数据和共识规模扩大而变大； - 某些“更聪明”的二阶方法偶尔有用，但整体上不必过度复杂化； - 更重要的是扩大参与安全决策的利益相关方，并让整个系统更快地协同前进。 他的结论是：不要假装自己已经完全看懂“loss landscape”，深度学习最重要的经验之一仍然是保持简单。