Miles Brundage:防窃取应成AI政策最高优先级,前沿实验室安全落后数年
Miles_Brundage · x · 2026-10-14
前 OpenAI 政策高管 Miles Brundage 发文阐述为何把「安全」(防模型权重被窃取与篡改)列为最高 AI 政策优先级。
- 独立专家访谈判断:前沿 AI 公司距能抵御中俄等国家级高资源攻击还差数年,且这还是努力的前提下。
- 时间差风险:AI 能力一年内可能大幅跃升——现有系统在竞技编程上已超过除数百人外的所有人类,被窃后果会越来越严重。
- 他区分 security(防窃取/篡改)与 safety(防事故),主张政策资源应先投向前者。
「漫话AGI」频道最新
- 让 agent 干活自己读书:用户的注意力被 AI 抢回去了 — martyamark · 2026-10-14
- Richard Socher 谈 p(doom)=0 及自动化科学发现进展 — jeremyakahn · 2026-10-14
- 吴恩达批「灭绝论」：AI 安全论调被用来打压竞争 — JHochderffer · 2026-10-14
- 生物学家驳「实验室全面自动化」：仅约20%检测值得自动化 — anshulkundaje · 2026-10-14
- 从业者自省:我们活在泡泡里,多数人根本不知道 Claude 是什么 — RachelVT42 · 2026-10-14
- Timnit Gebru 再转发 Michael Jordan 2018 年旧文：机器之神恐慌早被点破 — AlexTensor · 2026-10-14