Szegedy称形式化验证是安全驾驭超人AI的关键

Google 研究员 Christian Szegedy 表示，他坚信形式化验证将成为安全使用超人 AI 的关键组成部分。他将其比喻为一种「作弊码」：即使是非常简单、很笨的程序也能借此进行检查和约束。相关讨论随后延伸到「超智能需要多少外部约束」的争论，有工程师指出大语言模型缺乏持续学习与环境接地能力，认为外部 harness 补不上这些超智能短板。

2026-10-08 ~ 2026-10-09 · 2 条相关