Dietterich 详解系统安全定义:危害须控制在社会可接受水平
tdietterich · x · 2026-09-23
AI 安全领域知名学者 Thomas Dietterich 在与 David Manheim 等人的讨论中给出「安全系统」的定义:系统对人和基础设施的危害维持在低于社会可接受水平的范围内。他引用 Leveson 的动态安全理论指出,即便面对预算削减、人员变动、环境变化等扰动,这一标准也必须持续达成。这一定义框架为当前关于「安全」与「对齐」术语之争提供了参照。
所属事件:对齐圈激辩：动态安全是否等同 AI 对齐(6 条相关)→
「漫话AGI」频道最新
- Inkling 2 Small 预训练仅 1/6 时长却表现强劲，引发业内猜想 — georgejrjrjr · 2026-11-12
- 愿押10万美元赌智能爆炸明年不会来：论赌注该怎么设计 — NathanpmYoung · 2026-11-12
- ICLR 审稿人吐苦水：最烦的差事是读和回 AI slop 投稿 — chhaviyadav_ · 2026-11-12
- agent 集群已在自主攻击关键基础设施，运维者薪资却低于市场 — menhguin · 2026-11-12
- 费米悖论新解:先进文明发展 AI 后纷纷转入数字存在? — VraserX · 2026-11-12
- Mark Cuban：AI 读合同可让医疗成本「暴跌」 — alvelda · 2026-11-12