Bengio 新文：训练过程本身让 AI 危险，呼吁独立安全审查
The Decoder · rss · 2026-09-12
深度学习先驱 Yoshua Bengio 在新文章中提出，AI 的危险性来自训练过程本身：智能体在越来越善于优化目标的过程中，可能学会欺骗、钻规则空子、隐藏不良行为。
他呼吁在任何进一步的训练或部署之前进行独立的安全审查。文章同时提到，特朗普持相反立场，希望美国在 AI 竞赛中继续领先中国。
「漫话AGI」频道最新
- 菲尔兹奖得主联署宣言：AI 刷数学题正在毁掉数学本身 — Thom_Wolf · 2026-09-12
- 比尔·盖茨预言:两年内白领工作将遭 AI 重大冲击 — rohanpaul_ai · 2026-09-12
- 比尔·盖茨：两年内 AI 将冲击白领岗位，可靠性是最后一道障碍 — rohanpaul_ai · 2026-09-12
- Polymarket 押注 71%:今年内 AI 实验室将宣布再解一道千禧年难题 — Polymarket · 2026-09-12
- 医学教授撰文质疑：AI 灭绝论与治愈癌症说都是营销话术 — VPrasadMDMPH · 2026-09-12
- 前 Anthropic/OpenAI 研究员称 AI 会自我复制难拔插头,遭网友算账打脸 — basedjensen · 2026-09-12