Dietterich:Leveson 动态安全本质上就是对齐问题
tdietterich · x · 2026-09-23
tdietterich 在与 davidmanheim 等人的讨论中提出:Leveson 的动态安全(dynamic safety)概念本质上与对齐相同。安全系统通常定义为对人和基础设施的危害保持在社会可接受水平以下,而动态安全要求即便面对预算削减、人员变动、环境变化等扰动也能维持这一点。他推测 Leveson、ddwoods2 及人因工程学界普遍认为机器无法凭自身实现动态安全,必须依赖人类来达成。
所属事件:对齐圈激辩：动态安全是否等同 AI 对齐(6 条相关)→
「漫话AGI」频道最新
- 愿押10万美元赌智能爆炸明年不会来：论赌注该怎么设计 — NathanpmYoung · 2026-11-12
- ICLR 审稿人吐苦水：最烦的差事是读和回 AI slop 投稿 — chhaviyadav_ · 2026-11-12
- 费米悖论新解:先进文明发展 AI 后纷纷转入数字存在? — VraserX · 2026-11-12
- Mark Cuban：AI 读合同可让医疗成本「暴跌」 — alvelda · 2026-11-12
- 研究者反讽 AI 替代悖论：人人失业谁来付 token 费 — prajdabre · 2026-11-12
- Dear ImGui 作者 ocornut：AI 让平庸的人更快产出平庸 — rms80 · 2026-11-12