"对齐泡沫正被市场现实击破":安全需确定性工程控制
NathanpmYoung · x · 2026-09-11
Gerard Sans 发表观点:AI 安全与对齐"泡沫"正在市场现实下崩塌。他主张无法靠反向传播获得系统可靠性——多智能体系统需要确定性控制、隔离边界和严格的网络安全,即标准软件工程实践,而 ML 团队持续忽视这些。"统计近似不是安全控制,别把软件架构当作梯度下降的涌现属性。"
所属事件:Gerard Sans：AI 安全对齐泡沫正被市场现实击破(2 条相关)→
「漫话AGI」频道最新
- 可证伪的末日论存在吗?AI 研究者激辩对齐风险论证 — QuintinPope5 · 2026-09-11
- AI 让独立电影人绕开好莱坞,YouTube 即影院 — taherdhanera · 2026-09-11
- Claude 讽刺图走红：AI 决定 AI 该怎么办 — QuintinPope5 · 2026-09-11
- 安全研究者 Jeff Ladish:乐见实验室人士呼吁终止 AI 竞赛 — JeffLadish · 2026-09-11
- Build First 创始人:AI 让一人公司成真,也让「怪」成为优势 — every · 2026-09-11
- 博主断言：科学类诺贝尔奖将被超智能 AI 终结 — Dr_Singularity · 2026-09-11