Fleuret:除了基本统计与集中不等式,形式化数学给不了模型保证
francoisfleuret · x · 2026-10-12
François Fleuret(日内瓦大学教授、前 Meta/FAIR)就「用数学为模型提供保证」发表观点:目前在这方面可用的只有基础统计学和集中不等式(concentration bounds),仅此而已。
他直言,指望 Lean 或其他花哨的数学工具能为模型行为提供有意义的保证,这种想法毫无道理——这是对当前形式化验证 AI 安全路线的直接否定。
所属事件:Fleuret:数学为模型提供保证仅剩基础统计工具(2 条相关)→
「漫话AGI」频道最新
- zetalyrae 断言没有黑暗森林:宇宙里其实没有别人 — zetalyrae · 2026-10-12
- 编码变革是渐进的,数学家感受 AI 冲击将更像阶跃函数 — davidstutz92 · 2026-10-12
- AI 研究员自省:几乎无人同时身处 AI、数学、生物前沿,跨界比较极难 — davidstutz92 · 2026-10-12
- Dean Ball:许多 AI 评论者即将暴露对技术对齐问题的无知 — deanwball · 2026-10-12
- 科学家罕见表态 P(doom)=0,称灭绝论是科幻迷的涂鸦 — gabriberton · 2026-10-12
- 「别伤害人类」式简单规则对齐,再遭反讽调侃 — deanwball · 2026-10-12