Dietterich：自主系统离不开人类监督，人一直是兜底

AI 安全学者 Thomas Dietterich 在系列推文中强调，数十年自动化研究的教训表明，自主系统必须持续被监控并保留人类监督，因为系统设计者从未能预见所有失效方式。他引用专家对“自动化意外”的分析指出，从没有自主系统能适应新异情境，人类始终是最终兜底。

2026-09-21 ~ 2026-09-21 · 2 条相关

• AI 圈老将：从没有自主系统能适应新异情境，人一直是兜底 — tdietterich · 2026-09-21
• Dietterich:数十年自动化经验表明自主系统离不开人类监督 — JessicaHullman · 2026-09-21