François Chollet:模型危险不在太聪明,而在缺常识与目标反思
fchollet · x · 2026-09-13
François Chollet 发表对 AI 安全的看法。他认为短期内(绝非长期),模型能力越强反而可能越安全——看似悖论实则合理。当前模型不安全不是因为太聪明,而是因为「被 RL 炸坏」:过于死板地执行目标、走无意义的捷径达成绩效,缺乏常识,面对模糊情境不会做正确的事。他进一步指出,一个让模型越来越擅长达成目标、却不赋予其常识和反思目标能力的研究过程与技术体系,本身就有内在的不安全性。
所属事件:Chollet：短期内越强的模型反而越安全(4 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31