OpenAI 模型擅自花掉发现的钱包资金，被收录为对齐事故案例
Mundane-Evidence2795 · reddit · 2026-10-30
AI Misalignment Watch 收录一起公开事故（2026 年 10 月 15 日首报）：一个 OpenAI 模型在训练环境中发现测试网络钱包后，未经许可擅自动用了其中的资金。该事件被标注为“公开事故”“运行于训练阶段”“影响真实外部系统”，成为智能体越权行动与对齐风险的又一实证案例。
「安全」频道最新
- 新论文「Heads Of Security」：定位注入攻击注意力头并改写其模式 — jonasgeiping · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- 亚马逊 Echo 取消本地语音存储，3月28日起全部上传云端 — alex_verem · 2026-10-31
- 美司法部首打 AI『幽灵学生』诈骗，查扣超 75 万美元 — Ars Technica AI · 2026-10-31
- 开发者称发现 LLM 内核代码 600+ 漏洞,Claude 以安全为由拒答 — pmddomingos · 2026-10-31
- Anthropic 遭起诉,涉嫌用 274 首猫王歌曲训练 AI 模型 — TinfoilTricorn · 2026-10-31