Narayanan 新文:AI 安全运动该做大帐篷还是小帐篷?
random_walker · x · 2026-10-02
普林斯顿研究员 Arvind Narayanan(与 Sayash Kapoor)发布新文,探讨 AI 安全运动内部的根本分歧。
核心论点:
- 当前关于 AI 安全的辩论存在两种主流叙事:要么 AI 存在真实且迫近的生存风险,要么行业领袖与吹哨人的警告是虚伪的「心理战」/炒作/变相监管俘获。
- 几乎无人考虑第三种可能:这些生存风险警告是真诚的,但本身就是错的,且反而有损 AI 安全事业。
- 两位作者指出,舆论默认把发出警告者当作天才,争论焦点只是「善意天才还是恶意天才」,这一预设本身值得质疑。
- 作者重申自己一贯立场:认真对待论证、驳斥不成立的主张,同时指出真正存在的安全问题。
「漫话AGI」频道最新
- 「数字时代的伊博语」线上圆桌:30 million 使用者的语言为何被 AI 技术遗忘 — ChinasaTOkolo · 2026-11-16
- DeepMind 对齐研究员:前沿实验室确实不知道如何给 AI 可靠植入价值观 — teropa · 2026-11-16
- Arvind Narayanan 播客长谈:AI 是「正常技术」还是超级智能前夜 — dioscuri · 2026-11-16
- 教学千人后他说:没在终端里动手的人没资格看轻 LLM — StewartalsopIII · 2026-11-16
- 团队共用同一个 AI 模型,正在悄悄侵蚀集体判断力 — DrKavner · 2026-11-16
- Uber 财报:3.2 亿单中 AI agent 只叫了 4 次车,agent 商业化还很远 — thealexbanks · 2026-11-16