Dietterich 与 Ambrosio 交锋:持续学习为何少有人做
tdietterich · x · 2026-09-21
安全研究者 Thomas Dietterich 与 NVIDIA 高管 Bruno Ambrosio 就 AI 系统安全设计展开讨论。Ambrosio 提出两点:持续学习(continual learning)显然是必要的,他不解为何更多团队不投入研究;而人类监督未必充分、全面或足够快,甚至可能并非必需。
Dietterich 回应称,人类监督确实会限制系统在单位时间内能安全执行的步数:如果步骤是稳定环境中的常规操作,限制可以放宽;若是在快速变化环境中执行非常规步骤,则需更严格的控制。两人共同指向的开放问题是:业界对持续学习这一安全相关关键能力的投入明显不足。
所属事件:Dietterich 与英伟达高管激辩持续学习与 AI 安全(3 条相关)→
「漫话AGI」频道最新
- 观点：个人 AI Agent 一旦普及将形成极端网络效应 — darian314 · 2026-09-21
- 调查显示 DraftKings 用 AI 圈定最可能输钱的用户精准投注 — annetgriffin · 2026-09-21
- Schulman「目标驱动研究」引热议：方法驱动为何是陷阱 — mattturck · 2026-09-21
- 德勤高管把女儿送进 AI 学校:每天只上 2 小时课 — intellectronica · 2026-09-21
- Dario 曾预言 AI 两三年内全面超越人类，Anthropic 营收涨 7 倍后预言还准吗 — ThereWas · 2026-09-21
- 评论者警告:AI 输出回流数据集,连少量蒸馏都会不可逆地污染 LLM — teortaxesTex · 2026-09-21