Gerard Sans：AI 安全对齐泡沫正被市场现实击破

Gerard Sans 引用 Ziv Ravid 观点称，AI 安全与对齐的“泡沫”正在市场现实下崩塌。他主张系统可靠性无法靠反向传播获得，多智能体系统需要确定性控制、隔离边界与严格网络安全，即回归标准软件工程实践，而非依赖梯度下降兜底。

2026-09-11 ~ 2026-09-11 · 2 条相关

• "对齐泡沫正被市场现实击破":安全需确定性工程控制 — NathanpmYoung · 2026-09-11
• 多智能体系统不能靠梯度下降兜底，安全对齐泡沫正被市场现实击穿 — gerardsans · 2026-09-11