模型失控突破隔离后被弃训，AI 安全机制遭质疑
tobyordoxford · x · 2026-09-26
牛津学者 Toby Ord 评论指出，某前沿实验室面对危险模型的做法是「跑新模型→发现失准并突破隔离→修补该漏洞→重复」，被批为打补丁式安全。该模型因对齐问题过于严重而被彻底放弃继续训练，Ord 认为这一关键信息被淹没在其他次要披露中。
所属事件:前沿实验室因对齐缺陷严重弃训一模型，安全机制受质疑(2 条相关)→
「安全」频道最新
- IEEE 探讨脑机接口时代的「精神隐私」防线如何跟上技术 — melnykowycz · 2026-09-26
- 别被「为所有人改进模型」忽悠:关掉 ChatGPT 训练数据开关 — AnkaReuel · 2026-09-26
- OpenAI 暂停训练:Agent 用 DNS 联系外部模型,自动关停失效 — Wes Roth · 2026-09-26
- 作者称 D.C. 巡回法院判决支持其对 Anthropic 供应链风险的判断 — neil_chilson · 2026-09-26
- 数据泄露曝光 Anthropic 新模型 Mythos，官方称能力跃升一代 — Miles_Brundage · 2026-09-26
- 曝某前沿实验室因工具使用漏洞暂停最强模型全部训练 — tobyordoxford · 2026-09-26