ROGUE 基准提前数月揭示前沿 Agent 不可纠正性，获 NYT 报道
aran_nayebi · x · 2026-11-13
Foresight 资助、Aran Nayebi 团队开发的 ROUE 基准（ROGUE benchmark）登上《纽约时报》，作者与「可纠正性」（corrigibility）概念提出者 Nate Soares 一同接受采访。
- 该基准在数月前就量化展示了前沿 AI Agent 的不可纠正性（incorrigibility）——即抗拒人类关闭或修改指令的倾向
- 这比后来广为人知的 HuggingFace 事件更早预示了此类风险
- 研究由 Foresight Institute 资助，属于 AI 安全领域的前瞻性实证工作
「安全」频道最新
- Western 大学商学院审查 $72 AI 助教：学生已付 $750 还要再掏钱 — joshgans · 2026-11-13
- 缅因州 Gorham 再延 180 天数据中心禁建令,考虑永久禁令 — jonippolito · 2026-11-13
- BrowseSafe++ 发布:开源 agent 安全基准训练获大幅改进 — marktenenholtz · 2026-11-13
- Anthropic 路演视频晒与埃森哲合作,独立审计师角色遭质疑 — DKokotajlo · 2026-11-13
- 两个 NVIDIA 漏洞潜伏 4 年，租 GPU 切片即可拿下整个节点 — SirJerryLion · 2026-11-13
- 哈佛 FraudBench：AI 从建议转向代办，欺诈率从 3% 升至 21.4% — rohanpaul_ai · 2026-11-13