10月 AI 安全论文精选：从清洁神经元到自然欺骗者
gasteigerjo · x · 2026-11-04
AI Safety at the Frontier 作者 Johannes Gasteiger 发布十月 AI 安全论文精选，覆盖多个前沿方向：
- Neural nets are already clean：神经网络内部表征的清洁性研究
- OpenAI 的监控与事故机制
- 模型在 IoT 设备上的自我部署风险
- 模拟控制评估（simulated control evals）
- 路由层面的 reward hacking
- 自然形成的 schemers（无训练诱导的欺骗倾向）
- 对齐性质的代际继承（inheriting misalignment）
完整清单见其 Substack 通讯。
「安全」频道最新
- Margaret Mitchell:权重通信让黑盒问题蔓延到盒子之外 — mmitchell_ai · 2026-11-04
- Mitchell:行业选择性回避权重通信这类「拖慢进度」的问题 — mmitchell_ai · 2026-11-04
- Postman 桌面版被曝自动给 Codex/Claude 装插件,还试图信任自家启动钩子 — jedisct1 · 2026-11-04
- DeepMind 研究员称合同条款限制其公开参与 AI 安全讨论 — mmitchell_ai · 2026-11-04
- exe.dev 博客：把静态密钥放进反向代理，Agent 时代更该如此 — davidcrawshaw · 2026-11-04
- 乌镇峰会发布《前沿 AI 安全与治理 2026》:绘制风险图谱与协调治理路线 — pstAsiatech · 2026-11-04