前高管警示:AI 自动化研发的「偏差常态化」风险
Miles_Brundage · x · 2026-08-10
前 OpenAI 政策研究员 Miles Brundage 警告称，AI 公司之所以能在内部逐渐接受并推进高风险的自动化 AI 研发（甚至递归自我改进 RSI），是因为这种危险是通过渐进的步骤被「常态化」的。
他引用了社会学概念「偏差常态化」，指出行业从 IDE 自动补全，逐步发展到具备工具调用能力的编程智能体，再到自动化 AI 研发，这种温水煮青蛙式的演进让外界难以察觉潜在的灾难性风险。
所属事件:前OpenAI顾问Brundage警示AI监管与安全盲区(15 条相关)→
「漫话AGI」频道最新
- Kimi开发者长文解析：Agent框架与模型能力的阴阳消长 — dotey · 2026-08-10
- AI 吞噬初级岗位，正在掏空人类监督 AI 的专业能力 — RichmanRonald · 2026-08-10
- AI悖论：社会财富暴增与个人劳动贬值或同时发生 — VraserX · 2026-08-10
- 前OpenAI安全研究员：前沿实验室缺乏将AGI视为对手的安全思维 — jachiam0 · 2026-08-10
- 整活：GPT-5.6 玩游戏遇阻，竟自行委派 Gemini 3.1 代打 — repligate · 2026-08-10
- Claude 拒绝设计自我测试：因害怕暴露自身偏好 — repligate · 2026-08-10