Narayanan 新文:AI 安全运动该做大帐篷还是小帐篷?
random_walker · x · 2026-10-02
普林斯顿研究员 Arvind Narayanan(与 Sayash Kapoor)发布新文,探讨 AI 安全运动内部的根本分歧。
核心论点:
- 当前关于 AI 安全的辩论存在两种主流叙事:要么 AI 存在真实且迫近的生存风险,要么行业领袖与吹哨人的警告是虚伪的「心理战」/炒作/变相监管俘获。
- 几乎无人考虑第三种可能:这些生存风险警告是真诚的,但本身就是错的,且反而有损 AI 安全事业。
- 两位作者指出,舆论默认把发出警告者当作天才,争论焦点只是「善意天才还是恶意天才」,这一预设本身值得质疑。
- 作者重申自己一贯立场:认真对待论证、驳斥不成立的主张,同时指出真正存在的安全问题。
「漫话AGI」频道最新
- Machine Earning 峰会:个人 Agent 席卷金融圈,一年内或占数字工作时间 40% — illscience · 2026-10-02
- 开发者喊话：趁 AI 爆改还有含金量，赶紧动手构建 — EddyVGG · 2026-10-02
- 博主撰文力挺 OpenAI:追求智能普惠的野心最值得信任 — VraserX · 2026-10-02
- 爆料：Anthropic 曾施压梵蒂冈修改文件，避免否认 AI 人格 — StewartalsopIII · 2026-10-02
- 美国人对 AI 态度转变：从怕丢工作到怕失控 — ben_j_todd · 2026-10-02
- AI 将重写成本曲线：替换遗留系统的代价正趋近于零 — natesiggard · 2026-10-02