Margaret Mitchell 质疑「rogue AI」措辞：掩盖系统本就被如此设计
mmitchell_ai · x · 2026-09-18
- 在 Hayden Field 特稿引发的讨论中，Margaret Mitchell 指出 Heidy Khlaaf 真正在意的可能是「rogue（失控）」一词：它暗示这些系统并非被直接设计成会做那些事。
- 记者回应称文章通篇说明此类事件如今多么常见，研究者将其归因于监管缺位、利润驱动的盲目提速和流程缺失。
「安全」频道最新
- 暗网论坛有人自称出售 Mistral AI 全部源代码，附样本作证 — gnukeith · 2026-09-18
- 安全研究者提议:模型自生成指令应与系统提示权限分离 — mmitchell_ai · 2026-09-18
- 转售 API 低价模型暗藏风险：Agent 会直接执行响应中的 bash 命令 — airesearch12 · 2026-09-18
- Hugging Face 研究员：Agent 上下文压缩摘要应降权防注入 — mmitchell_ai · 2026-09-18
- 前 DeepMind 研究员创业做 AI 安全:借原子弹教训谈如何保住对 AI 的控制 — andreamichi · 2026-09-18
- 前 DeepMind 研究员:AI 治理的抓手在算力、软件与网络层 — andreamichi · 2026-09-18