Bengio 呼吁:重视安全的员工应离开前沿 AI 公司
Yoshua_Bengio · x · 2026-10-08
- 图灵奖得主、深度学习先驱 Yoshua Bengio 在 Transformer 发表专栏文章,公开呼吁前沿 AI 公司的员工:如果你真正 prioritise 安全,就应该离开这些公司,加入推动更安全未来的行列。
- 他坦承自己曾长期陷入「动机性推理」:不愿面对毕生工作可能带来危害的事实,把灾难性风险当成遥远问题。ChatGPT 发布后认知失调达到顶点——他意识到模型的进步远超学界预期,而人类仍不知道如何控制这些系统。
- 他表示此后决定将余生投入 AI 风险缓解,并称「我们已经没有从容等待的余地,必须现在行动」。文章以其培养和影响过的研究者为直接受众,情辞恳切。
所属事件:Bengio 发公开信：重视安全就离开前沿 AI 公司(6 条相关)→
「漫话AGI」频道最新
- 用 LLM 智能体搭建社会极化试验场:交互规则与网络结构如何激化对立 — profjamesevans · 2026-10-09
- 给物理世界造 API:AI agent 对接工厂产能,重构美国再工业化路径 — McDonaghMatthew · 2026-10-09
- AI 冲击娱乐业:短视频算法碾压影视音乐,文化工业或整体迁往旧金山 — juliey4 · 2026-10-09
- 观察：开源模型稳定落后前沿，但人们仍可按立场选择 — panickssery · 2026-10-09
- OpenAI Quasi-Riemann 震动数学界:百位数学家披露集体反应 — littmath · 2026-10-09
- Epoch 推出自动化报告：前沿模型能否替代我们的研究工作 — scaling01 · 2026-10-09