OpenAI 是否打算让 agent 形式化证明安全性质?引发可信性争论

zetalyrae · x · 2026-11-17

@bicellaria 质疑 OpenAI 的「The Plan」:让 agent 去形式化证明安全性质,而我们甚至不知道需要证明哪些定理——若真是如此,这个计划可预见地不会奏效。

@tszzl 反驳称这是混淆思路:自动化安全研究的同时仍可验证结果,因而并未交出人类监督;而且对系统理解越深,形式化验证能力只会越强。zetalyrae 转发并聚焦这一分歧,触及「能否用形式化方法锚定 agent 安全」这一核心争论。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →