Brundage：AI 能力没有终点，厂商不会主动"见好就收"
Miles_Brundage · x · 2026-09-17
Miles Brundage 安全长推的续篇：AI 的"安全收益再投资"会表现为更大的预训练、更难的 RL 环境、更多测试时算力、更宽松的互联网访问等。而且 AI 能力与部署没有明确的天花板——不存在某家公司宣布"够了，我们安全了"然后停下来的时刻。
所属事件:前OpenAI政策负责人Brundage：AI安全是社会技术问题，security应列政策最高优先级(9 条相关)→
「漫话AGI」频道最新
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02
- 法国网友用 LLM 论证：法律为何不能被形式化为确定性规则 — IgorCarron · 2026-11-02
- 诺奖经济学家 William Nordhaus 去世，遗产生长与技术经济学 — Afinetheorem · 2026-11-02
- dhh：Agent 的最大馈赠是绕开软件圈所有恼人的守门人 — IgorCarron · 2026-11-02