Bengio 公开呼吁:如果你重视安全,就离开前沿 AI 公司
pstAsiatech · x · 2026-10-09
深度学习先驱 Yoshua Bengio 在 Transformer 发表专文,向前沿 AI 公司员工喊话:如果你优先考虑安全,就离开这些公司,加入争取更安全未来的战斗。
- 自我剖析:他承认自己曾深陷『动机性推理』,不愿面对毕生工作可能带来危害的事实,一直把灾难性风险当作遥远问题。
- 转折点:ChatGPT 发布后认知失调无法再压制,他意识到我们在开发越来越强却不知如何控制的系统这条路上走得比想象远得多,此后决定毕生投入降低 AI 风险。
- 他表示,周期性看到领先模型产生新的、被研究者预言多年的危害,这促使他公开呼吁从业者用脚投票。
这是一位 AI 教父级人物罕见的直接动员,针对的正是前沿公司内部的安全研究者群体。
所属事件:Bengio 发公开信：重视安全就离开前沿 AI 公司(6 条相关)→
「漫话AGI」频道最新
- DeepMind 报告：1500 万次 Gemini 交互揭示科学家如何用 AI 加速发现 — JMateosGarcia · 2026-10-09
- 「AI 蜂群」替代「AI 人格」:关于机器意识归属的新讨论 — theimposingshadow · 2026-10-09
- 「你们太年轻不记得 Napster」:网友称 AI 正处当年式狂热节点 — Recoil42 · 2026-10-09
- IBM 工程师：机器人需要世界模型而非语言模型 — ingliguori · 2026-10-09
- Dietterich 谈 OpenAI 数学模型：像整理已故数学家的笔记 — tdietterich · 2026-10-09
- 企业 AI 的真正机会藏在没人愿承认的表格里 — alex_verem · 2026-10-09