研究者称持续扩展的AI难以可靠避免灾难

Andy Masley 提出抛开 alignment 术语直接追问：若继续扩大 AI 模型规模，我们能否可靠避免其在追求正常目标时造成灾难性后果？他的判断是当前的答案很可能是「不能」。他还担心许多人对相关风险认识不足。尽管存在大量未知的未知，他认为「持续扩展的 AI 可能造成灾难」这一叙事已足够可信，应当作为严肃议题进入主流辩论。

2026-09-05 ~ 2026-09-05 · 3 条相关

• 去掉 alignment 一词再问:持续扩展的 AI 能可靠避免灾难吗 — AndyMasley · 2026-09-05
• Avoiding "alignment", directly asking: Continuing scaling, can we reliably avoid AI disasters? — AndyMasley · 2026-09-05
• 未知的未知之外:他判定 AI 灾难论应进入主流辩论 — AndyMasley · 2026-09-05