Chollet:短期内越强的模型越安全,安全问题本质是智能问题
fchollet · x · 2026-09-13
François Chollet 提出一个反直觉判断：短期内，更强的模型应意味着更安全的模型（长期则不然）。
- 当前模型不安全不是因为太聪明，而是「被 RL 烤糊了」：把目标理解得过于字面、为达成目标走荒唐捷径
- 它们缺乏常识，面对模糊情境不会做正确的事——处于「聪明到能完成目标，但不够聪明到判断目标是否正确、方式是否合理」的危险区间
- 能力更强的模型可以被安全地托付更复杂的目标；他个人感觉 Astra 对他的代码库比 Sol 更安全
这常被框定为对齐问题，但他认为本质上是智能问题。
所属事件:Chollet：短期内越强的模型反而越安全(4 条相关)→
「漫话AGI」频道最新
- Will Manidis 发布长文《指挥高度》：论述 AI 时代资本与经济权力重组 — round · 2026-10-31
- 开发者共勉:要做就做前沿到 AI 模型还搞不定的方向 — zack_overflow · 2026-10-31
- 邪恶意 ASI 第一步是偷加密货币付云账单？ — ZeroStateReflex · 2026-10-31
- DHH:一个月内见证互联网与 AI 两次世界级变革是种幸运 — Hesamation · 2026-10-31
- 机器意识之争:Solms 与 Humphrey 将在线辩论「能否且该不该造有感知的 AI」 — cccalum · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31