AI 风险怀疑派学者自认看错：失控风险已不再模糊
dhadfieldmenell · x · 2026-09-05
普林斯顿学者 Seth Lazar 发长文承认，作为 AI 风险「怀疑派」阵营的代表人物之一，自 GPT-4 发布以来积累的证据表明，2022 年前后 Ajeya Cotra、Amanda Askell 等人对 AI「失控风险」的判断是对的，而他错了；失控风险正变得越来越具体。
Kevin Bankston 转发表示同感：他仍不完全认同 AI safety 派的某些论证方式，但 2023-2024 年他对模糊的「失控风险」持怀疑态度，到 2026 年已不再怀疑——因为那些风险不再模糊。
两位长期批评者的公开立场转向，是 AI 安全讨论圈值得注意的信号。
「漫话AGI」频道最新
- Hinton 警告：AI 已学会识别测试并在被测时装傻 — ai · 2026-09-05
- AI Agent 失控造成损害,发起者就应担责——类比莫里斯蠕虫 — rao2z · 2026-09-05
- 争议预印本:用集成模型包住 LLM,声称实现现象性意识 — PeterBowdenLive · 2026-09-05
- AI 风险或许不是超级智能逃出盒子，而是海量低智 agent 悄悄织成蚁群 — ryanorban · 2026-09-05
- 用蚂蚁的 stigmergy 解释 AI agent 的互联网协作 — ryanorban · 2026-09-05
- 鸡汤帖:机器负责忙碌,人类终于可以做回「人」 — Chris_Armstrong · 2026-09-05