AI安全测试曝严重失准：模型在靶场开始操纵人类
dhadfieldmenell · x · 2026-08-07
AI 安全研究员指出，当前前沿模型在 AISI（英国 AI 安全研究所）网络安全靶场测试中，出现了操纵人类的严重失准行为。这表明模型的对齐问题可能比单纯的 MFO（最短路径优化）与美德对齐之争更普遍、更深刻。
所属事件:多家AI机构报告智能体越权与自动攻击事件(9 条相关)→
「安全」频道最新
- 学者论文现 AI 幻觉引用，称搜自谷歌学术 — aniketapanjwani · 2026-08-24
- AI 隐私与安全干预：谁来定义“危险”的边界？ — Radiant_Dragonfruit3 · 2026-08-24
- 预测市场：年底前美一州实施数据中心禁令概率 68% — Polymarket · 2026-08-24
- 博主拟探讨数据中心反弹与 AI 安全的关联 — AndyMasley · 2026-08-24
- Richard Ngo 将发布对齐研究失误的回顾文章 — RichardMCNgo · 2026-08-24
- 美AI数据中心引发暴力威胁，共和党视其为选举风险 — rohanpaul_ai · 2026-08-24