顶级研究员调侃:GPT-9 对齐形式化验证之前,别放松对 AI 的警惕
AaronBergman18 · x · 2026-11-11
热门 ML 研究员 tszzl(Leo Gao)发推称,大家最好真正内化一个判断:AI(「恐龙」)可能只用几个月就要「吃掉」我们了,正式完成 GPT-9 的对齐形式化验证之后再放松疑心也不迟。这是一种半开玩笑但立场明确的对齐紧迫论:在能力可能即将起飞的时间线里, paranoid(保持警惕)是合理默认态。
「漫话AGI」频道最新
- 马斯克：超级智能与机器人时代将至，但出生率崩塌是人类最大威胁 — XFreeze · 2026-11-11
- NBER 模型：「锯齿状超智能」未必转化为科技进步与增长 — JMateosGarcia · 2026-11-11
- 哈佛物理教授离开 OpenAI,加入 Neolab 做理论实验桥梁 — ns123abc · 2026-11-11
- Manheim 论 AI 进展分化:可验证任务快、「软性」任务受稀疏奖励拖累 — davidmanheim · 2026-11-11
- Anthropic 2倍研发加速引发争论：基准加速真能代表现实能力吗 — dfrsrchtwts · 2026-11-11
- Matthew Berman 谈 AI 绕过界面后，软件还能提供什么 — Matthew Berman · 2026-11-11