Wojciech Zaremba:AI 时代需要类似核试验监测的全球验证技术
HaydnBelfield · x · 2026-11-18
OpenAI 联合创始人 Wojciech Zaremba 提出观点:1959 年美国启动 Project Vela,从太空、大气层和地下监测全球核试验,这类技术随后促成了国际核试验条约。他认为 AI 时代也需要类似的东西——用技术手段让政策协议变得可能,使人类能够验证 AI 系统及其基础设施的基本属性,比如芯片位于何处等。
他承认核类比并不完美,因为 AI 有海量正面应用;但对于高风险的国际协议,核心论点成立:需要技术方案来支撑政策协议的验证。转发者 Nora Ammann 补充,她近两年一直在做「assurance 技术」帮助人类集体驾驭 AI 发展,这个需求如今愈发凸显。
「漫话AGI」频道最新
- 互动页面对比 Paul Christiano 与 Parzival 超智能时间表:一个乐观一个急迫 — LeviTurk · 2026-11-18
- 美联储警告:AI 智能体可在几分钟内引发银行挤兑 — GaryMarcus · 2026-11-18
- 比尔·盖茨转发《沙丘》名言:把思考交给机器只会让别有人奴役你 — pmddomingos · 2026-11-18
- 爆料称 Claude 曾大规模用蛋白质序列训练,业内争论生物学建模范式 — AllThingsApx · 2026-11-18
- Recursive 联创 Tim Shi 谈 AI 科学品味、evals 与自动化发现 — AnneliesGamble · 2026-11-18
- 对齐研究者反思:别只跑实验看数字,多花时间和模型聊天 — repligate · 2026-11-18