形式化验证困境:诚实与可纠正性无法被精确规约
BethMayBarnes · x · 2026-11-15
Adam Scholl 回应「形式化方法规模化」主张:想象试图对任何你真正关心的属性做形式化规约——比如诚实性、可纠正性、智能水平、系统变化时目标漂移的程度等。目前我们只能为这些属性定义极其粗糙、间接的代理指标。
这是对用形式化方法保障 AI 安全路线的核心反驳:难点不在验证规模,而在我们根本写不出关心的规格本身。
「漫话AGI」频道最新
- Nick Land 活在递归起飞时代却只发梗帖，AI 圈大佬集体沉默引热议 — abhiadesai · 2026-11-15
- 挑战用 AI 4 小时造出全新电竞品类，列出 18 个游戏原型 — gabriel1 · 2026-11-15
- Rohit Krishnan：说不清 AI 做不了的「混乱」，就无法帮它爬坡改进 — BethMayBarnes · 2026-11-15
- Eric Schmidt:只投一个主题就押注长时推理模型 — rohanpaul_ai · 2026-11-15
- 学者批 AI 检测公司借反 AI 恐慌牟利：科研不用 AI 才是失职 — ipeirotis · 2026-11-15
- 开发者亲历:今年科技业裁员 17 万,史上最难求职季 — ericelliott_ · 2026-11-15