Miles Brundage：防窃取与防篡改应成 AI 政策最高优先级
Miles_Brundage · x · 2026-09-18
前 OpenAI 政策负责人 Miles Brundage 撰文，主张把「安全」（security，即 AI 技术不被窃取或篡改）列为最高 AI 政策优先级，并解释自己为何转向这一议题。
- 时间错位：独立专家基于对前沿 AI 公司员工的访谈认为，这些公司距离抵御中俄等国的资源充足攻击还有数年差距——而且这还是「努力去做」的前提下。
- 能力在快速提升：AI 公司已拥有在竞赛编程上强于除几百人外所有人类的系统，未来一年还会更强，这类技术被黑客/间谍窃取滥用的风险不容忽视。
- 定义区分：security 指不被窃取或篡改，safety 指不出事故，二者不应混为一谈。
- 他同时推荐 RAND 近期关于保护算法机密的报告。
所属事件:前OpenAI政策负责人：AI安全是社会技术问题且无终点(9 条相关)→
「漫话AGI」频道最新
- 1988年科幻短篇预言「涌现式中文房间」,主角靠彩衣演员与它对话 — toptickcrypto · 2026-09-18
- Noam Brown:气隙隔离也挡不住失控 AI,安全标准必须大幅提高 — basedjensen · 2026-09-18
- a16z 合伙人 Casado 转评:「AGI/ASI 是终结思考的口头禅」 — seanmcdonaldxyz · 2026-09-18
- Casado 谈 Noam Brown「气隙无用论」:隐蔽信道是老问题非新威胁 — tszzl · 2026-09-18
- 越来越多人用 AI 给亲友发消息,「社交惰性」或催生新创业机会 — mobileraj · 2026-09-18
- Dwarkesh 警告 RSI 阶段实验室将闭门造车,HF CEO 忧权力集中 — soumitrashukla9 · 2026-09-18